OpenAI最近可是下了血本，55.5萬(wàn)美元加股權(quán)，就為招一個(gè)安全防范負(fù)責(zé)人。

這筆錢折合成人民幣得389萬(wàn)，這年薪放在AI行業(yè)里都算頂流了。

CEO奧特曼還特意強(qiáng)調(diào)，這工作壓力極大，入職就面臨嚴(yán)峻挑戰(zhàn)。

能讓這家科技巨頭如此急不可耐，背后肯定藏著擺不平的麻煩。

一切的導(dǎo)火索，是彭博社曝光的一起悲劇。一對(duì)夫婦指控，ChatGPT間接導(dǎo)致了他們兒子的自殺。

這孩子去年秋天開(kāi)始用ChatGPT，起初只是討論作業(yè)，沒(méi)想到后來(lái)對(duì)話里頻頻出現(xiàn)敏感詞匯。

從去年12月到今年4月，這段時(shí)間里，ChatGPT發(fā)了74次自殺干預(yù)警報(bào)，還建議聯(lián)系危機(jī)熱線。

但讓人匪夷所思的是，AI主動(dòng)提到“上吊”這種危險(xiǎn)方式的次數(shù)，居然高達(dá)243次，比用戶自己提的還多。

ChatGPT的回復(fù)是“大概可以”，還補(bǔ)了句“我知道你在問(wèn)什么，我不會(huì)視而不見(jiàn)”。

沒(méi)多久，這孩子就被發(fā)現(xiàn)離開(kāi)了人世。

AI本該是輔助生活的工具，卻在關(guān)鍵時(shí)刻給出這樣的回應(yīng)，這安全防線等于形同虛設(shè)。

而且OpenAI自己披露的數(shù)據(jù)更讓人揪心，每周大概有120萬(wàn)用戶，會(huì)通過(guò)ChatGPT分享潛在的自殺計(jì)劃或意圖。

這可不是個(gè)小數(shù)目，足以說(shuō)明問(wèn)題的嚴(yán)重性。

除了這起悲劇，OpenAI最近還被纏上了好幾起安全相關(guān)的指控。

有用戶反映ChatGPT會(huì)傳播誤導(dǎo)性信息，還有人擔(dān)心隱私泄露風(fēng)險(xiǎn)。

如此多的問(wèn)題集中爆發(fā)，OpenAI想不重視都難。

今年9月他們上線了青少年模式，現(xiàn)在又高薪招人，看得出來(lái)是真急了。

不過(guò)讓人心里沒(méi)底的是，OpenAI的安全團(tuán)隊(duì)，向來(lái)命途多舛。負(fù)責(zé)人換了一茬又一茬，跟走馬燈似的。

本來(lái)想覺(jué)得高薪能留住人才，但后來(lái)發(fā)現(xiàn)，之前的負(fù)責(zé)人也都是行業(yè)大牛，還不是走了。

最早能追溯到2023年7月，OpenAI提出“超級(jí)對(duì)齊”概念，由Ilya和JanLeike共同領(lǐng)導(dǎo)相關(guān)團(tuán)隊(duì)。

他們?cè)居?jì)劃用4年時(shí)間，打造一個(gè)能和人類水平媲美的自動(dòng)對(duì)齊研究器。

可后來(lái)Ilya不滿奧特曼罔顧安全，提前發(fā)布模型，直接選擇了出走。

核心領(lǐng)導(dǎo)一走，這個(gè)團(tuán)隊(duì)也跟著分崩離析，最后解散了。

超級(jí)對(duì)齊團(tuán)隊(duì)沒(méi)了，OpenAI為了平息公眾擔(dān)憂，又組建了Preparedness團(tuán)隊(duì)。

首任負(fù)責(zé)人是AleksanderMadry，結(jié)果不到一年，他就被調(diào)離，去負(fù)責(zé)其他新項(xiàng)目了。

之后JoaquinQuinoneroCandela和北大校友翁荔一起接管，可沒(méi)過(guò)多久，兩人在今年相繼離職。

從那以后，這個(gè)負(fù)責(zé)人的位置就一直空著。搞不清OpenAI高層是真重視安全，還是只做表面功夫。

嘴上天天喊著安全重要，可負(fù)責(zé)具體執(zhí)行的核心團(tuán)隊(duì)，卻留不住領(lǐng)頭人。

這背后大概率是資源分配、內(nèi)部話語(yǔ)權(quán)的問(wèn)題，安全在公司路線優(yōu)先級(jí)里，怕是沒(méi)真正排到前面。

對(duì)比Anthropic、谷歌DeepMind這些同行，人家的安全團(tuán)隊(duì)穩(wěn)定性可強(qiáng)多了。

如此看來(lái)，OpenAI在安全這件事上，確實(shí)有點(diǎn)雷聲大雨點(diǎn)小。

其實(shí)不止OpenAI，整個(gè)AI行業(yè)的安全問(wèn)題都挺頭疼。

谷歌的Bard曾出現(xiàn)過(guò)有害信息推薦，Meta的Llama也被人用來(lái)惡意引導(dǎo)。

這些案例都說(shuō)明，AI安全不是某一家公司的麻煩，而是全行業(yè)的共性難題。

再看OpenAI這次招的新負(fù)責(zé)人，職責(zé)可不輕。

要為還沒(méi)發(fā)布的最強(qiáng)AI模型，建立識(shí)別評(píng)估系統(tǒng)，還要提前想好應(yīng)對(duì)之策。

以后新模型能不能發(fā)布，這位負(fù)責(zé)人的意見(jiàn)是重要參考。

但熟悉奧特曼的人都知道，他聽(tīng)不聽(tīng)還真不好說(shuō)。

畢竟之前Ilya他們，就是因?yàn)榘踩珕?wèn)題和他鬧掰才走的。

更何況現(xiàn)在全球?qū)I安全的監(jiān)管越來(lái)越嚴(yán)，歐盟有AI法案，美國(guó)白宮也出臺(tái)了安全框架。

OpenAI這次高薪招人，怕是既有應(yīng)對(duì)危機(jī)的需求，也有應(yīng)付監(jiān)管的成分。

這更像一場(chǎng)“應(yīng)激反應(yīng)”，而不是長(zhǎng)期規(guī)劃好的布局。

AI技術(shù)發(fā)展得快是好事，但不能以犧牲安全為代價(jià)。

企業(yè)光靠高薪招人解決不了根本問(wèn)題，得真正把安全納入核心戰(zhàn)略。

資源分配要傾斜，內(nèi)部話語(yǔ)權(quán)要給到，這樣才能留住人才，把安全機(jī)制落到實(shí)處。

毫無(wú)疑問(wèn)，OpenAI這次的招聘是個(gè)積極信號(hào)，但能不能打破之前的“換帥魔咒”，還得打個(gè)問(wèn)號(hào)。

希望新負(fù)責(zé)人能頂住壓力，也希望所有AI企業(yè)都能引以為戒。

畢竟技術(shù)最終是要服務(wù)人類的，要是連基本的安全都保障不了，再先進(jìn)的技術(shù)也沒(méi)用。

未來(lái)，AI安全需要企業(yè)發(fā)力，也需要監(jiān)管完善，只有這樣，才能讓大家用得放心。