夢瑤 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

Ilya偷拍備份的OpenAI機(jī)密文件，剛剛曝光。

70頁內(nèi)部證據(jù)、200+頁私人筆記，偷拍視頻、繞開公司系統(tǒng)、用閱后即焚的方式傳遞消息，甚至上來直接一個大暴擊：

Sam Altman撒謊成性！�。。ù舐�.jpg)

《紐約客》剛剛披露這一事件詳情，里面的內(nèi)容堪稱抓馬：

• 從OpenAI董事會到微軟高級高管，跨越20年、橫跨多個組織，大家對奧特曼的核心評價幾乎都是撒謊成性
• OpenAI的非營利使命要求CEO必須具備誠信的品質(zhì)，但I(xiàn)lya后來發(fā)現(xiàn)奧特曼恰恰不具備這種品質(zhì)，甚至恰恰相反…
• 奧特曼被解雇后的5天，在自家豪宅搞了個宮斗備戰(zhàn)室，資本、員工、輿論三線齊發(fā)，最終董事會無力抵抗！
• 宮斗事件之后，奧特曼不僅沒有收斂，反而加速了安全承諾的瓦解，SuperAlignment團(tuán)隊被邊緣化。

誰成想呢，本以為再無瓜葛的硅谷甄嬛傳，奧特曼和llya的愛恨情仇又又又更新了。

為啥OpenAI首席科學(xué)家要用間諜片手法搜集CEO的罪證？

這份備忘錄里到底寫了什么，讓董事會成員回憶時只說了三個字——“He was terrified”？

準(zhǔn)備好瓜子兒，大家伙兒邊嗑邊看吧…

(太精彩了，太精彩了，太精彩了…)

llya偷拍70頁OpenAI秘密文件曝光！

山姆·奧特曼，撒謊成性

只能說，OpenAI從一開始，就給自己設(shè)了一道幾乎不留余地的門檻。

這份70頁機(jī)密備忘錄中提到，OpenAI從創(chuàng)建之初的時候就被被設(shè)計成一個的安全性拉滿的組織——

非營利結(jié)構(gòu)、董事會優(yōu)先對人類負(fù)責(zé)，甚至在極端情況下，可以犧牲公司本身。

也正因如此具備公共利益的性質(zhì)，所以O(shè)penAI對于CEO的要求同樣具備一定特殊性，那就是，必須非常非常非常非常的有信用。

好巧不巧，問題恰恰出在這里。

2019年，Ilya還在OpenAI辦公室的時候，為Greg Brockman主持婚禮，甚至安排了一只機(jī)械手來擔(dān)任捧環(huán)人。

那個時候，技術(shù)、理想、人與人之間的信任看起來是統(tǒng)一的，但隨著模型能力不斷臨界線，他開始重新思考同一個問題：

如果這項技術(shù)真的被做出來，誰在控制它，他的答案變得越來越明確，甚至冷靜到只剩一句判斷：

“我不認(rèn)為奧特曼是那個能為OpenAI拍板兒的人�！�

理由嘛——

llya倒不是懷疑奧特曼能力有問題，主要吧，還是懷疑這個人的人性…

于是乎，接下來llya的一系列操作，只能說已經(jīng)不太像一家科技公司的內(nèi)部討論了，正如我們看到的：

70頁材料被系統(tǒng)整理出來，包含Slack記錄與內(nèi)部文件，關(guān)鍵內(nèi)容用手機(jī)拍下，刻意避開公司設(shè)備，再通過會自動消失的消息發(fā)送給董事會。

一位收到材料的董事后來回憶，看到這個大爆料的時候，他直言：我是真被嚇得沒邊了…

5天宮斗，從F1賽場到豪宅備戰(zhàn)室

在Ilya那份70頁機(jī)密備忘錄里，當(dāng)年的OpenAI宮斗事件被還原得更加具體，也更抓馬。（doge）

而且這事兒的開端，本身就帶著一點《荒誕感》——

當(dāng)時奧特曼人在拉斯維加斯看F1，被一通視頻電話叫走，電話那頭兒，Ilya讀了一段極其簡短的聲明——

他（奧特曼）已經(jīng)不再是OpenAI的CEO。

沒有鋪墊，也沒有證據(jù)披露，更離譜的是，連微軟里德·霍夫曼這種級別的核心投資人，事前也完全不知情。

（甚至一度以為是挪用資金這種級別的大雷，結(jié)果啥也沒查到？？）

聽到自己被“斬立決”的消息，當(dāng)晚奧特曼直接連夜在自己豪宅里直接搭起了一個堪稱“拯救奧特曼”主題的臨時指揮部。

△圖片由AI生成

奧特曼的目的，是迅速推進(jìn)三件事：

第一，資本施壓。

Thrive凍結(jié)關(guān)鍵投資，微軟直接放話可以另起爐灶：你們可以換CEO，但OpenAI也可以從此消失。

第二，員工站隊。

聯(lián)名信迅速擴(kuò)散，幾乎全員簽字，甚至連臨時接任CEO、最初站在董事會一側(cè)的Murati，最終也倒向奧特曼，簽下支持回歸的聯(lián)名信。

緊接著，便是輿論失控。

董事會選擇沉默，奧特曼一方持續(xù)釋放信息，掌控輿論大局。

結(jié)果嘛，就是Ilya最后也不得不松口：如果奧特曼不回來，公司可能會直接崩掉。

五天之后，結(jié)局落定—奧特曼回宮，董事會出局。

甚至，OpenAI內(nèi)部員工還給這場硅谷史上最經(jīng)典的宮斗反轉(zhuǎn)，起了個名字——The Blip（意為“小插曲”或“短暫失常”）。

The Blip之后，安全承諾開始崩塌

The Blip結(jié)束后，OpenAI所發(fā)生的變化沒有停在權(quán)力層面，那套用來“限制權(quán)力”的機(jī)制，開始逐步松動。

最先出問題的，是資源。

OpenAI曾對外承諾，會拿出20%的算力，用于長期安全研究，這是OpenAI當(dāng)時最核心的安全底牌。

但實際執(zhí)行，很快變了味兒——算力占比一路下滑到1%-2%，分到的還是最老的集群、最差的芯片。

當(dāng)負(fù)責(zé)人Jan Leike提出異議時，得到的回應(yīng)是：這件事從一開始就不現(xiàn)實。

從優(yōu)先事項，變成象征性存在，安全開始失去真正的投入。

第二步，就是流程開始被繞開。

在OpenAI里，原本涉及高風(fēng)險能力的發(fā)布，正常應(yīng)該需要經(jīng)過安全委員會審核。

但在后續(xù)產(chǎn)品迭代中，一些爭議最大的功能都沒有走完整審批流程就直接上線，甚至連地區(qū)版本的產(chǎn)品，也在安全評估尚未完成的情況下發(fā)布。

（流程不流程的，似乎也沒那么重要了…)

第三步，是調(diào)查失去約束力。

事實上董事會風(fēng)波之后，OpenAI請來了一家參與過多起公司丑聞?wù){(diào)查的律所“WilmerHale”做獨立調(diào)查。

按這家律所的正常工作流程和外界普遍預(yù)期來說，OpenAI的事情會有一份正式、可追溯的書面報告。

但最終的結(jié)果是——沒有報告。（doge）

調(diào)查結(jié)論，只以口頭形式匯報給新董事會，而不寫報告的建議，恰恰來自奧特曼參與選擇的董事的私人律師。

三件事兒——先削資源，再松流程，最后弱化調(diào)查。

看起來每一步都是輕微調(diào)整，但是吧，當(dāng)系統(tǒng)可以繞過限制，限制本身也就不再存在了。

20年前就有人看透了山姆·奧特曼？

u1s1，圍繞奧特曼好的壞的一籮筐評價，并不是在OpenAI才出現(xiàn)的。

事實上跨越20年、橫跨多個組織，對奧特曼的核心評價驚人一致，那就是——

這小子，嘴里忒沒實話，干事兒忒不著邊兒。（doge）

最早的一次，可以追溯到2013年。

當(dāng)時已故的天才程序員Aaron Swartz，在私下對朋友留下過一句對奧特曼非常極端判斷：

你必須明白，奧特曼這個人永遠(yuǎn)不值得信任，他是個反社會人格的人，為了目的什么都做得出來。

他第一次創(chuàng)業(yè)階段，問題已經(jīng)出現(xiàn)。

公司內(nèi)部員工曾兩次推動董事會撤換他，甚至需要投資人親自下場，在公司里盯著他。

到了后來，當(dāng)他開始進(jìn)入更核心的創(chuàng)業(yè)與投資圈層，問題開始升級——

從內(nèi)部矛盾，變成信任危機(jī)。

內(nèi)部有人后來直接承認(rèn)，奧特曼一直在隱瞞事情，比如對外公告不斷修改說法， 職位描述一改再改，甚至最后干脆刪除等等。

但在正式的監(jiān)管文件里，他依然被標(biāo)注在原來的位置上？？

換句話說就是表面在變化，實際關(guān)系卻沒有同步調(diào)整。

這些分散在不同階段的口碑，到了OpenAI，開始集中爆發(fā)——

董事會成員給出的評價是：他不受事實的約束，甚至奧特曼還被大家形容為，對欺騙可能帶來的后果缺乏基本顧慮。

而另一位高管給出的說法是：他未來，有可能會被放進(jìn)那些重大商業(yè)丑聞人物的序列中被討論。

喜歡寫日記的不正經(jīng)人還有一個，后來成為Anthropic CEO的Dario Amodei也留下了200多頁筆記內(nèi)容，筆記中包含大量對于OpenAI和奧特曼本人的評價。

盡管和llya算不上啥關(guān)系多好的朋友，但是吧，人家和Ilya得出了同一個結(jié)論——

那就是OpenAI內(nèi)部出現(xiàn)的一籮筐問題不在公司系統(tǒng)本身，而是奧特曼本人有問題。

甚至，Amodei的措辭更為激烈，對奧特曼的評價是——他說的話幾乎可以確定是胡扯�。�！

咋說呢，來源不同、階段不同，但指向高度一致。

更微妙的是，別看差評如此之多，架不住奧特曼自己的腰板直，在被質(zhì)疑時，人家奧特曼只是說：

不好意思哈，我無法改變我的性格～（好牛的精神狀態(tài)）

最后頗值得一提的是，在llya的70頁機(jī)密備忘錄中，還有個蠻值得一瞧的事情，那就是——

在OpenAI的辦公區(qū)里，”Feel the AGI”的標(biāo)語隨處可見。

這句話最早是Ilya用來警告同事AGI風(fēng)險的，但是吧，The Blip宮變事件之后，變成了慶祝未來的口號。

（這多少有點地獄級笑話了啊，llya：我？？？）

OMT

家人們，這瓜還沒完。

就在剛剛，曝光此備忘錄的《紐約客》記者在x上表示，當(dāng)他們想采訪“研究AI生存風(fēng)險”的研究員時，OpenAI官方回應(yīng)是：

你說的存在性安全是啥？這東西壓根不存在哈～

但是吧，還得是OpenAI，說歸說，做歸做，這是兩碼事兒：

就在這篇調(diào)查報告發(fā)布幾個小時后， OpenAI剛巧推出了支持安全研究的項目。（doge）

還得是OpenAI，還得是奧特曼。

（llya：這下你們知道我說的都是實話了吧，這奧特曼是真說一套做一套�。�？）