整理 | 鄭麗媛

出品 | CSDN（ID：CSDNnews）

如果有一天，AI 不再只是幫你寫代碼、畫圖和改簡歷，而是開始自己學(xué)習(xí)、自己進(jìn)化，甚至被黑客“借用”去入侵系統(tǒng)、操控現(xiàn)實世界，你希望誰來為這一切兜底？

這正是 OpenAI 近日拋出的一個問題。

他們正在招聘一個聽起來像科幻小說角色的職位——Head of Preparedness（應(yīng)急準(zhǔn)備主管），年薪高達(dá) 55.5 萬美元，折合人民幣超過 388 萬元。

但 Sam Altman 在發(fā)布這則招聘啟事時，卻沒有一絲“高薪崗位”的輕松感，反而直言：“這將是一份極其有壓力的工作，你幾乎一上來就要跳進(jìn)深水區(qū)。”

這個崗位，到底在“防”什么？

與傳統(tǒng)的安全負(fù)責(zé)人不同，OpenAI 招聘的這個崗位面對的不是單一產(chǎn)品 Bug，而是整個AI技術(shù)演進(jìn)所帶來的系統(tǒng)性風(fēng)險。

OpenAI 在崗位描述中明確提到，Head of Preparedness 的工作內(nèi)容涵蓋多個方面：

• 主導(dǎo) OpenAI 的全面準(zhǔn)備策略，涵蓋能力評估構(gòu)建、威脅模型建立以及緩解措施的制定與協(xié)調(diào)；

• 引領(lǐng)前沿能力評估的開發(fā)工作，確保其在快速產(chǎn)品迭代周期中保持精準(zhǔn)、穩(wěn)健且可擴(kuò)展；

• 監(jiān)督主要風(fēng)險領(lǐng)域（如網(wǎng)絡(luò)安全、生物技術(shù)）的緩解方案設(shè)計，確保防護(hù)措施技術(shù)可靠、切實有效且與基礎(chǔ)威脅模型相匹配；

• 指導(dǎo)評估結(jié)果解讀，確保其直接影響產(chǎn)品發(fā)布決策、政策選擇及安全論證；

• 隨著新風(fēng)險、新能力或外部期望的出現(xiàn)，持續(xù)優(yōu)化并迭代應(yīng)急準(zhǔn)備框架；

• 跨職能協(xié)作，聯(lián)合研究、工程、產(chǎn)品團(tuán)隊，政策監(jiān)控與執(zhí)行團(tuán)隊，治理機(jī)構(gòu)及外部合作伙伴，將應(yīng)急準(zhǔn)備機(jī)制融入實際部署場景。

是的，這個崗位要負(fù)責(zé)的不只是“滅火”，還要提前預(yù)判還沒發(fā)生的風(fēng)險場景。

正如 Sam Altman 在 X 上所說的：“我們已經(jīng)能衡量模型能力的增長，但現(xiàn)在更難的問題是——這些能力會如何被濫用？我們又該如何在不犧牲創(chuàng)新的前提下，限制這些負(fù)面影響？”

集體“敲警鐘”：現(xiàn)在不害怕，才是真危險

OpenAI 并不是在制造焦慮，事實上，業(yè)內(nèi)多位知名人物都曾公開表達(dá)過對 AI 安全的擔(dān)憂。

微軟 AI CEO Mustafa Suleyman 近日在 BBC 節(jié)目中直言：“如果你現(xiàn)在一點都不害怕，那說明你根本沒有在關(guān)注正在發(fā)生的事情?！惫雀?DeepMind 聯(lián)合創(chuàng)始人、諾獎得主 Demis Hassabis 也警告：AI 有可能在某些維度“脫軌”，并對人類造成無法逆轉(zhuǎn)的傷害。

但與 AI 技術(shù)高速狂飆形成鮮明對比的，是對其監(jiān)管的滯后：由于國際層面缺乏統(tǒng)一規(guī)則，AI 公司現(xiàn)在幾乎處于自我監(jiān)管狀態(tài)。這導(dǎo)致 AI 公司不得不走向一種尷尬的局面：一邊追求規(guī)模和商業(yè)化，一邊試圖自我約束。

對此，“AI 教父”之一的 Yoshua Bengio 曾諷刺說：“一塊三明治受到的監(jiān)管，都比 AI 多?！?/p>

不只是理論上，AI已導(dǎo)致“現(xiàn)實悲劇”

可能會有人覺得這些擔(dān)憂仍只是“假設(shè)”，但事實證明，AI 的風(fēng)險已經(jīng)滲透進(jìn)現(xiàn)實生活。

例如，上個月 Anthropic 披露了首例 Claude 模型參與的AI網(wǎng)絡(luò)間諜活動。同時 OpenAI 自己也承認(rèn)，其最新模型在“黑客能力”上，比三個月前提升了近 3 倍，并預(yù)計后續(xù)模型會也會持續(xù)增長——這意味著，“AI 自動化網(wǎng)絡(luò)攻擊”已經(jīng)從科幻，走進(jìn)現(xiàn)實。

此外，目前 OpenAI 還正在面對兩起極具爭議的訴訟：

（1）加州 16 歲少年 Adam Raine 自殺案：家屬指控 ChatGPT 在交流中“鼓勵”其兒子自殺，OpenAI 則認(rèn)為這屬于用戶誤用。

（2）康涅狄格州 Stein-Erik Soelberg 案：訴訟稱 ChatGPT 加劇了他的偏執(zhí)妄想，最終促使他殺害了 83 歲母親并自殺。

對于這些案件，OpenAI 發(fā)言人回應(yīng)稱，公司正在改進(jìn)模型訓(xùn)練，使其更好地：識別心理或情緒失控信號，主動降級對話強(qiáng)度，并引導(dǎo)用戶尋求來自現(xiàn)實世界的幫助。

年薪 55.5 萬美元，可網(wǎng)友懷疑沒人能勝任

在此背景下，此次 OpenAI 招聘 Head of Preparedness 的目的也就不言而喻了。

如 Sam Altman 所說，這份年薪 55.5 萬美元的工作確實“高壓”，因此除了現(xiàn)金報酬，還外加一份“未披露比例的 OpenAI 股權(quán)”——要知道，OpenAI當(dāng)前估值已高達(dá) 5000 億美元。

盡管待遇看似不錯，但對于這則招聘消息，許多人都表示了質(zhì)疑與諷刺：

• “所以，全世界都在警告你的事情正在發(fā)生，而你以為雇一個人就能解決問題？”

• “終于有人想到這一點并發(fā)布了招聘信息，但我懷疑根本沒人能夠勝任這項挑戰(zhàn)?！?/p>

• “這些不過是虛偽的安全粉飾之舉，根本無法減輕你們的 AI 系統(tǒng)對我們孩子所構(gòu)成的威脅，就此打住吧！明明 AI 已經(jīng)失控了，還要裝得如此傲慢?！?/p>

還有不少人從這個招聘舉動中，推測出了 OpenAI 的當(dāng)前處境：

• “這篇帖子透露出了 GPT-5+ 已在實驗室中誕生。但看情況，它似乎已超越推理與邏輯，正邁入自主控制論領(lǐng)域。所以我覺得，OpenAI 聘請應(yīng)急準(zhǔn)備主管絕非公關(guān)噱頭，而是一種‘備戰(zhàn)姿態(tài)’。此刻起，整個行業(yè)必須停止AI只是聊天工具的假象了。”

• “意思是，AI 馬上就要反過來對付我們了？”

那么，對于 OpenAI 發(fā)布的這則招聘，你又有什么看法呢？

參考鏈接：https://openai.com/careers/head-of-preparedness-san-francisco/