新智元報道

編輯：元宇

【新智元導(dǎo)讀】奧特曼掏出「400萬+股權(quán)」招人，不是來卷模型智商，而是給OpenAI買一份「AI失控險」——一上崗就下深水、當(dāng)救火隊長。

奧特曼開價400萬，要為OpenAI買一份「安全保險」！

近日，奧特曼發(fā)帖要為OpenAI招募一位「準(zhǔn)備工作負(fù)責(zé)人（Head of Preparedness）」。

55.5萬美元年薪，外加股權(quán)，換算成人民幣大約400萬起步。

在硅谷，「55.5萬美元基礎(chǔ)年薪+股權(quán)」，屬于極少見的高底薪高管崗，底薪越高，往往意味著崗位稀缺、責(zé)任邊界更大。

雖然OpenAI并未公開股權(quán)規(guī)模，該崗位薪酬總包可能達(dá)到百萬美元級別。

與高薪相對應(yīng)的是極富挑戰(zhàn)性的工作內(nèi)容。

奧特曼為這個崗位的定調(diào)就是「充滿壓力」「要立刻下深水」：

這會是一份壓力很大的工作，而且你幾乎一上來就要跳進(jìn)深水區(qū)。

關(guān)鍵時刻的關(guān)鍵角色

這份工作更像是一個「救火隊長」，甚至可以稱為「末日主管」。

不是為了把模型做得更聰明，而是要為不斷變強的模型套上「安全圍欄」，管控好隨之而來的風(fēng)險。

用奧特曼的話說，這是一個「關(guān)鍵時刻的關(guān)鍵角色」，模型正在飛快變強，能做出很多很棒的事，但也開始帶來「真實的挑戰(zhàn)」。

他在招聘帖子中特別點名了兩件事，這是在過去的一年中發(fā)現(xiàn)的：

模型對心理健康的潛在影響；

模型在計算機(jī)安全上強到一個新階段，已經(jīng)開始能發(fā)現(xiàn)「高危漏洞」。

奧特曼強調(diào)，我們在衡量能力增長方面已經(jīng)有了很扎實的基礎(chǔ)，但接下來的挑戰(zhàn)是如何防止這些能力被濫用，如何在產(chǎn)品里、以及在現(xiàn)實世界里把這些壞處壓到最低，同時還能讓大家繼續(xù)享受它帶來的巨大好處。

他認(rèn)為這是一個巨大的難題而且?guī)缀鯖]有先例，是一個需要「更精細(xì)理解和更細(xì)致度量的世界」。

許多聽起來很不錯的想法，落到現(xiàn)實里都會遇到一些棘手的例外和邊界情況。

因此，新招募的這位「準(zhǔn)備工作負(fù)責(zé)人」的職責(zé)，就是要解決在模型能力持續(xù)發(fā)展和應(yīng)用不擴(kuò)大的前提下，去設(shè)定一道安全防線：

如何用最前沿的能力去武裝網(wǎng)絡(luò)安全防守方，同時確保攻擊者沒法拿來作惡。

奧特曼也為這份工作定下了目標(biāo)：

最理想的情況，是通過讓所有系統(tǒng)都變得更安全來實現(xiàn)，比如更安全地發(fā)布在生物領(lǐng)域的AI能力，以及提升自我改進(jìn)的系統(tǒng)能夠更安全地運行的信心。

模型變強

風(fēng)險也更加「硬核」

過去我們談AI風(fēng)險，常常像在發(fā)布天氣預(yù)報：可能下雨，最好帶傘。

隨著大模型能力的提升，以及技術(shù)的快速滲透，當(dāng)前的AI風(fēng)險更像是到了烏云壓城的關(guān)頭：雨已經(jīng)落下來了，而且風(fēng)向還在變。

一方面是模型更強了。

奧特曼提到一個標(biāo)志性變化：

模型在計算機(jī)安全方面進(jìn)入新階段，「開始能發(fā)現(xiàn)關(guān)鍵漏洞」。

這句話細(xì)思極恐——當(dāng)模型能替你找漏洞，它同樣可能替別人找漏洞。

正所謂道高一尺，魔高一丈。

另一方面，模型技術(shù)的普及也帶來了更多「硬風(fēng)險」，這在2025年已經(jīng)看到一些苗頭。

比如，模型對心理健康的潛在影響。

進(jìn)入2025年我們也看到了許多關(guān)于「AI精神病」的報道：

有人把與機(jī)器人聊天當(dāng)作心理治療的替代方案，而在某些情況下，這會加劇心理健康問題，助長妄想等令人擔(dān)憂的行為。

今年10月，OpenAI也曾表示正與心理健康專業(yè)人士合作，改善ChatGPT對出現(xiàn)精神錯亂或自殘等令人擔(dān)憂行為的用戶的互動方式。

不止心理健康，還有報道指出ChatGPT在法律文件中產(chǎn)生幻覺，引發(fā)大量投訴。

此外，還有ChatGPT、Sora等應(yīng)用產(chǎn)品上線后帶來的一系列諸如深度偽造以及社會倫理等方面的挑戰(zhàn)。

比如Sora曾在2025年10月因用戶生成「不尊重」內(nèi)容而暫停/封禁對馬丁·路德·金相關(guān)視頻的生成，并同步加強歷史人物肖像相關(guān)的護(hù)欄與退出機(jī)制。

因此，奧特曼要求這份工作，要把安全從能力評估、威脅建模、緩解措施做成一條可落地的鏈條，形成一個「連貫、嚴(yán)謹(jǐn)且可操作、可擴(kuò)展的安全流程」。

填補「安全空心化」的焦慮

這次招聘，更像是對OpenAI安全團(tuán)隊的緊急補位與強化。

OpenAI的核心使命是以造福全人類的方式開發(fā)人工智能，從一開始它就將安全協(xié)議 (safety protocols) 作為其運營的核心部分。

然而，一些前員工表示，隨著OpenAI開始發(fā)布產(chǎn)品以及盈利壓力的增加，該公司開始將利潤置于安全之上。

一個標(biāo)志性事件，就是「超級對齊」（superalignment）團(tuán)隊的解散。

2024年5月，OpenAI「超級對齊」團(tuán)隊解散，該團(tuán)隊工作將被并入/吸收進(jìn)其他研究工作。

超級對齊團(tuán)隊的兩位共同負(fù)責(zé)人Ilya Sutskever、Jan Leike也相繼離開，其中Leike在離職時還尖銳地批評了公司，公司已經(jīng)迷失了確保技術(shù)安全部署的使命：

「構(gòu)建比人類更聰明的機(jī)器本身就是一項危險的嘗試……但在過去幾年里，安全文化和流程已經(jīng)讓位于光鮮亮麗的產(chǎn)品」。

Leike表示OpenAI未能投入足夠的計算資源來研究如何引導(dǎo)和控制那些遠(yuǎn)比我們聰明的人工智能系統(tǒng)。

另外一名前員工Daniel Kokotajlo也表示他辭職是因為他「對公司在通用人工智能 (AGI) 出現(xiàn)時能否負(fù)責(zé)任地行事逐漸失去信心」。

當(dāng)時奧特曼就Leike的發(fā)帖回復(fù)，認(rèn)為他說的對：「我們還有很多事情要做；我們承諾會去做」。

OpenAI聯(lián)合創(chuàng)始人兼總裁Greg Brockman也聲稱公司愿意因安全問題推遲產(chǎn)品發(fā)布：

「首次弄清楚如何讓一項新技術(shù)變得安全并非易事，我們既相信要實現(xiàn)巨大的潛在收益，也致力于努力降低重大風(fēng)險」。

在超級對齊團(tuán)隊解散大概兩個月后，7月AI安全負(fù)責(zé)人Aleksander Madry被調(diào)崗。

OpenAI原AI安全負(fù)責(zé)人Aleksander Madry

10月23日，OpenAI長期政策研究人員、AGI readiness團(tuán)隊高級顧問Miles Brundage離開OpenAI。

隨著Brundage離開，AGI readiness的子團(tuán)隊economic research division將轉(zhuǎn)到新任首席經(jīng)濟(jì)學(xué)家 Ronnie Chatterji之下，其余部分則分散到其他部門。

Kokotajlo曾表示，「OpenAI最初約有30人研究與通用人工智能 (AGI) 相關(guān)的安全問題，一系列的離職使得這一人數(shù)減少了近一半」。

安全團(tuán)隊的負(fù)責(zé)人及員工離職、調(diào)崗，項目被不斷分拆、重組，由此帶來的「安全空心化」焦慮，正是這次奧特曼高調(diào)招聘的大背景。

當(dāng)「前沿模型」的能力逼近更高邊界時，谷歌、Anthropic、OpenAI、xAI等大模型廠商在AI軍備競賽中，都要解決同一個問題：怎么在加速中不失控？

而此次招募的「準(zhǔn)備工作負(fù)責(zé)人」的工作，則是要把不斷變強的模型，在現(xiàn)實使用場景中轉(zhuǎn)化為一個能評估、能落地、能迭代的「可執(zhí)行的安全管線」。

當(dāng)AI競賽進(jìn)入緊要關(guān)頭，能夠守住安全底線才是不敗的關(guān)鍵。

參考資料：

https://www.businessinsider.com/openai-hiring-head-of-preparedness-ai-job-2025-12

秒追ASI

?點贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點亮星標(biāo)，鎖定新智元極速推送！