智東西
作者 李水青
編輯 云鵬

智東西4月11日消息，當(dāng)?shù)貢r(shí)間4月10日凌晨3點(diǎn)45分，OpenAI CEO薩姆·奧特曼（Sam Altman）的住所遭人投擲燃燒彈，該裝置燒毀了其舊金山房屋的外門，無人受傷。

事發(fā)后，奧特曼發(fā)長(zhǎng)文報(bào)平安，并亮出孩子和男友照片，似乎有一種驚魂未定的感覺。他在文中反思自己此前低估了輿論煽動(dòng)帶來的危險(xiǎn)，同時(shí)反思自己在OpenAI期間的失誤與驕傲。

據(jù)OpenAI公司及警方消息，嫌疑人為一名20歲男子，目前已經(jīng)被逮捕。該嫌疑人在黎明前引燃了奧特曼住所的外門，約一小時(shí)后在約三英里外的OpenAI總部被找到，當(dāng)時(shí)他正揚(yáng)言要燒毀大樓。據(jù)悉，OpenAI公司辦公區(qū)域周邊將加強(qiáng)警力部署。

事發(fā)之后，奧特曼在官方博客發(fā)布長(zhǎng)文。他不僅對(duì)恐怖行為有不少感觸，還迅速思考了背后的原因和對(duì)策，主要內(nèi)容總結(jié)如下：

1、有人因?qū)λ目捶ǘ蚱浼抑型稊S燃燒彈，幸好未造成傷害。他意識(shí)到煽動(dòng)性文章和極端言論會(huì)加劇個(gè)人危險(xiǎn)，呼吁緩和言辭、減少?zèng)_突。

2、推進(jìn)AI是道德責(zé)任，但必須應(yīng)對(duì)社會(huì)焦慮。AI將帶來巨大變革，人們對(duì)AI的恐懼和焦慮是合理的，需要全社會(huì)共同應(yīng)對(duì)新威脅，并制定政策幫助經(jīng)濟(jì)轉(zhuǎn)型。

3、AI必須民主化，權(quán)力不能集中。未來的控制權(quán)屬于所有人及其機(jī)構(gòu)，不應(yīng)由少數(shù)AI實(shí)驗(yàn)室決定發(fā)展方向。

4、堅(jiān)持原則、拒絕埃隆·馬斯克單方面控制OpenAI而自豪，但也承認(rèn)自己回避沖突、與前董事會(huì)處理不當(dāng)導(dǎo)致混亂。OpenAI已從小型創(chuàng)業(yè)公司成長(zhǎng)為主要平臺(tái)，需要更可預(yù)測(cè)地運(yùn)作。

5、一旦看到AGI就無法忽視，它會(huì)讓人產(chǎn)生“控制AGI”的執(zhí)念并做出瘋狂行為。唯一解決方案是廣泛分享技術(shù)，無人擁有絕對(duì)控制權(quán)，并確保民主進(jìn)程比公司更強(qiáng)大。

奧特曼發(fā)布的回應(yīng)全文如下：

這是我家人的照片。我愛他們勝過一切。

我希望照片是有力量的。通常我們盡量保持低調(diào)，但這次我分享這張照片，是希望它能阻止下一個(gè)朝我家扔燃燒彈的人，不管他們對(duì)我有什么樣的看法。

第一個(gè)人昨晚凌晨3點(diǎn)45分這么做的。幸好它從房子上彈了回來，沒有人受傷。

語言是有力量的。幾天前，網(wǎng)上出現(xiàn)了一篇關(guān)于我的煽動(dòng)性文章。昨天有人跟我說，他們覺得這篇文章發(fā)表在大家對(duì)AI極度焦慮的時(shí)期，會(huì)讓我處境更加危險(xiǎn)。我對(duì)此不以為意。

現(xiàn)在我半夜醒來，怒火中燒，心想我真是低估了語言和敘事的力量?？磥憩F(xiàn)在是時(shí)候談?wù)勔恍┦虑榱恕?/p>

首先，說說我的看法。

為所有人創(chuàng)造繁榮，賦予所有人力量，推進(jìn)科學(xué)技術(shù)發(fā)展，是我義不容辭的道德責(zé)任。

AI將成為人類能力和潛能拓展史上最強(qiáng)大的工具。人們對(duì)它的需求幾乎是無限的，并將用它創(chuàng)造奇跡。世界需要大量的AI，我們必須找到實(shí)現(xiàn)這一目標(biāo)的方法。

一切并非一帆風(fēng)順。人們對(duì)AI的恐懼和焦慮并非空穴來風(fēng)；我們正經(jīng)歷著社會(huì)多年來，甚至可能是史上最大的變革。我們必須確保安全，這不僅僅是調(diào)整模型的問題——我們迫切需要全社會(huì)共同應(yīng)對(duì)，以抵御新的威脅。這包括制定新的政策，幫助我們度過艱難的經(jīng)濟(jì)轉(zhuǎn)型期，從而邁向更加美好的未來。

AI必須民主化；權(quán)力不能過于集中。未來的控制權(quán)屬于所有人及其機(jī)構(gòu)。AI需要賦予個(gè)人權(quán)力，我們需要共同決定我們的未來和新的規(guī)則。我不認(rèn)為少數(shù)AI實(shí)驗(yàn)室決定未來走向是合理的。

適應(yīng)能力至關(guān)重要。我們都在快速學(xué)習(xí)新事物；我們的一些信念會(huì)是正確的，一些會(huì)是錯(cuò)誤的，隨著技術(shù)發(fā)展和社會(huì)演變，我們有時(shí)需要迅速改變想法。目前還沒有人完全了解超級(jí)智能的影響，但其影響將是巨大的。

其次，一些個(gè)人感想。

回顧我在OpenAI的第一個(gè)十年里所做的工作，我有很多值得驕傲的事情，也犯了很多錯(cuò)誤。

我當(dāng)時(shí)在想我們即將與埃隆·馬斯克進(jìn)行的那場(chǎng)考驗(yàn)，也想起了我當(dāng)時(shí)是如何堅(jiān)持原則，不肯接受他想要單方面控制OpenAI的。我為此感到自豪，也為我們當(dāng)時(shí)為了OpenAI的延續(xù)而走過的艱難道路以及之后取得的所有成就感到驕傲。

我并不以自己回避沖突為榮，這給我和OpenAI都帶來了巨大的痛苦。我也不為自己在與前任董事會(huì)的沖突中處理不當(dāng)而感到驕傲，那次沖突給公司造成了巨大的混亂。在OpenAI這段瘋狂的發(fā)展歷程中，我犯過許多其他錯(cuò)誤；我是一個(gè)身處極其復(fù)雜局面中心、自身存在缺陷的人，我努力每年進(jìn)步一點(diǎn)點(diǎn)，始終為公司的使命而奮斗。我們一開始就知道AI的利害關(guān)系有多么重大，也知道我關(guān)心的人之間那些出于好意的個(gè)人分歧會(huì)被無限放大。但真正經(jīng)歷這些痛苦的沖突，并且常常不得不去調(diào)解，又是另一回事，而代價(jià)也十分慘重。我向那些被我傷害過的人道歉，也希望自己能更快地吸取教訓(xùn)。

我也非常清楚，OpenAI現(xiàn)在是一個(gè)大型平臺(tái)，而不是一家初創(chuàng)公司，我們需要以更可預(yù)測(cè)的方式運(yùn)作。過去的幾年極其緊張、混亂且壓力巨大。

不過，最讓我感到自豪的是，我們正在實(shí)現(xiàn)我們的使命，這在創(chuàng)業(yè)之初似乎是天方夜譚。我們克服重重困難，成功打造了功能強(qiáng)大的AI，籌集到了足夠的資金來構(gòu)建基礎(chǔ)設(shè)施，建立了產(chǎn)品公司和商業(yè)模式，大規(guī)模地提供了安全可靠的服務(wù)，等等。

很多公司都聲稱要改變世界，而我們做到了。

第三，我對(duì)這個(gè)行業(yè)有一些想法。

過去幾年，我個(gè)人的體會(huì)，以及對(duì)我們這個(gè)領(lǐng)域內(nèi)各公司之間為何會(huì)出現(xiàn)如此多莎士比亞式戲劇性沖突的看法，可以歸結(jié)為一點(diǎn)：“一旦你看到了通用AI（AGI），就無法視而不見?！彼_實(shí)具有一種“權(quán)力之環(huán)”的魔力，會(huì)驅(qū)使人們做出瘋狂的事情。我指的并非AGI本身就是那枚魔環(huán)，而是“掌控AGI”這種絕對(duì)化的理念。

我能想到的唯一解決方案是讓這項(xiàng)技術(shù)廣泛普及，并且不讓任何人擁有這枚戒指。實(shí)現(xiàn)這一目標(biāo)的兩個(gè)顯而易見的途徑是賦予個(gè)人權(quán)力，并確保民主制度繼續(xù)有效運(yùn)作。

民主進(jìn)程必須保持比企業(yè)更強(qiáng)大的力量，這一點(diǎn)至關(guān)重要。法律和規(guī)范將會(huì)改變，但我們必須遵循民主進(jìn)程，即便這個(gè)過程可能比我們預(yù)期的要混亂和緩慢。我們希望擁有發(fā)言權(quán)和參與權(quán)，但并不想掌握全部權(quán)力。

很多對(duì)我們行業(yè)的批評(píng)都源于人們對(duì)這項(xiàng)技術(shù)巨大風(fēng)險(xiǎn)的真切擔(dān)憂。這種擔(dān)憂完全合理，我們也歡迎善意的批評(píng)和討論。我理解人們對(duì)技術(shù)的抵觸情緒，而且很明顯，技術(shù)并非總是對(duì)每個(gè)人都有益。但總的來說，我相信技術(shù)進(jìn)步能夠?yàn)槟愕募胰撕臀业募彝?chuàng)造無比美好的未來。

在我們進(jìn)行這場(chǎng)辯論的同時(shí)，我們應(yīng)該緩和言辭和策略，努力減少家庭內(nèi)部的沖突，無論是比喻意義上的還是字面意義上的。