48小時內(nèi)，奧特曼的家2次凌晨遇襲。一次被丟燃燒彈，一次是驚聞門外槍響，所幸無人傷亡，犯罪嫌疑人也迅速被捕。

事件本身不大，但提供了一個關(guān)注“AI技術(shù)掌權(quán)者”和“AI反對者”博弈的絕佳窗口。在這里，我們聚焦第一起丟彈事件，因?yàn)閲@它的信息披露和利益相關(guān)方的回應(yīng)更全面。

暴力在這里是最不重要的事，因?yàn)楸┝Φ牟徽?dāng)，是無需重申的共識。而丟彈事件暴露出來的另一個問題更值得拆解。

2024年1月16日，在美國舊金山拍攝的薩姆·奧爾特曼 / 圖源：新華社

事件發(fā)生后，在暴力反AI者、倡導(dǎo)非暴力的反AI組織、AI掌權(quán)者三方的宣言表態(tài)當(dāng)中，我們可以看見他們對敘事的爭奪——即如何基于已經(jīng)發(fā)生的暴力事實(shí)，解釋AI和它引發(fā)的沖突。

這些敘事或說法，構(gòu)成我們理解AI的多元面向，卻也暴露出我們對AI進(jìn)行約束，哪怕是具體如何監(jiān)管的討論，在實(shí)質(zhì)層面上的懸浮與滯后。

“如果你活了下來，我會認(rèn)為是上天讓你去贖罪”

往奧特曼家丟燃燒彈的人叫莫雷諾·加馬，只有20歲。

4月10日凌晨，往奧特曼的家丟完燃燒彈，他就離開了現(xiàn)場。但一小時后，他出現(xiàn)在Open AI的總部，掄起一把藍(lán)色椅子，往玻璃大門上砸。

至少從監(jiān)控上看，玻璃門沒有碎，在他拎著一桶煤油靠近大門，準(zhǔn)備下一步行動時，安保走了出來。

莫雷諾·加馬很快被捕。據(jù)法院公開文件，警方繳獲了一份反AI文件，莫雷諾·加馬處在其中表達(dá)了對AI以及“多家AI公司高管”的反對觀點(diǎn)，并聲稱要?dú)⑺缞W特曼（在原文件中稱“受害者-1”）。他還進(jìn)一步列出了AI公司顯要的董事會成員、CEO以及投資者的名單和地址，顯然目標(biāo)不止一人。

莫雷諾·加馬被捕

在這份文件里，他還專門以“關(guān)于我們即將滅絕的一些額外言論”為題，討論AI對人類構(gòu)成的風(fēng)險(xiǎn)。還對奧特曼放言：如果你活了下來，我會認(rèn)為是上天讓你去贖罪。

此外，在一個以莫雷諾·加馬為網(wǎng)址名的網(wǎng)頁上，有一篇長文，當(dāng)中寫到：即使在人類歷史上，每當(dāng)一個更先進(jìn)的文明與一個不太先進(jìn)的文明接觸時，后者往往都會遭遇征服和種族滅絕。那么，我們究竟為什么要明知故犯呢？……許多人對普通人的生命價值漠不關(guān)心……那么下一個問題就是：我們是否應(yīng)該袖手旁觀，任由事態(tài)發(fā)展？——之后，他提到了殺戮。

事后，反AI組織Pause AI迅速發(fā)聲明做切割。

聲明提供了一些信息，包括莫雷諾·加馬只是在2年間往他們的公共服務(wù)器發(fā)了34條消息，其中一條信息被標(biāo)記為含義模糊，審核員發(fā)出了警告，重申P(guān)ause AI組織的抗議、請?jiān)?、政策倡?dǎo)和公眾教育，是合法、非暴力的，暴力恰恰是他們走向組織所極力避免的。

反AI組織Pause AI迅速發(fā)出聲明

“倡導(dǎo)對強(qiáng)大技術(shù)進(jìn)行安全監(jiān)管和民主監(jiān)督，是公共生活中合法且必要的組成部分。試圖將和平倡導(dǎo)與個別個人的行為聯(lián)系起來，從而抹黑這種做法，是對公共討論以及世界亟需就人工智能展開的嚴(yán)肅對話的損害?！甭暶髦姓f。

但更矚目的是，這一有驚無險(xiǎn)的突襲，讓另一事主奧特曼罕見地不再低調(diào)。

奧特曼，“雙重受害人”？

事發(fā)第二天，奧特曼在博客上發(fā)長文回應(yīng)，并附上一張家人的照片，包括幼兒的正臉?！拔曳窒磉@張照片，是希望它能阻止下一個朝我家扔燃燒彈的人，不管他們對我有什么樣的看法?！?/p>

奧特曼在博客上發(fā)回應(yīng)長文

他還提及一篇報(bào)道，并認(rèn)為那是一篇“煽動性文章”。

那是發(fā)表在紐約客的一篇長文《奧特曼可能掌控我們的未來——但他值得信任嗎？》，作者之一Ronan Farrow得過普利策獎，報(bào)道采訪了一百多名親歷奧特曼商業(yè)運(yùn)作的人，寫了外界對這位OpenAI掌門人持續(xù)存在的質(zhì)疑，奧特曼被評價得最多的是“撒謊”和“權(quán)力欲”。

報(bào)道中有句總結(jié)：即便與奧特曼關(guān)系密切的人，也很難分清他的“人類希望”止于何處，個人野心始于何處。他最大的優(yōu)勢始終是，能說服不同群體相信，他想要的與他們需要的是同一件事。

“昨天有人跟我說，他們覺得這篇文章發(fā)表在大家對人工智能極度焦慮的時期，會讓我處境更加危險(xiǎn)。我對此不以為意?！钡潞?，奧特曼認(rèn)為這篇文章煽動了仇恨情緒，對此不滿：“現(xiàn)在我半夜醒來，怒火中燒，心想我真是低估了語言和敘事的力量?！?/p>

他把“暴力”重新歸因：把個人的極端攻擊，解讀為敘事的后果，而他是雙重受害者。

接著，他一如既往強(qiáng)調(diào)AI技術(shù)的正當(dāng)性，稱“為所有人創(chuàng)造繁榮，賦予所有人力量，是我義不容辭的道德責(zé)任”“人工智能將成為人類能力和潛能拓展史上最強(qiáng)大的工具，人們對它的需求幾乎是無限的”……

OpenAI / 圖源：新華社

后續(xù)原文很長，大意是：AI真的很好，我做的事是為大家好。我知道“事情并非一帆風(fēng)順”，我也同意“人工智能必須民主化，權(quán)力不能過于集中，共同決定我們的未來走向”，而且“我們沒想掌握全部權(quán)力”，為此，我能想到的“唯一解法是讓這項(xiàng)技術(shù)廣泛普及”；最后我們要“學(xué)習(xí)適應(yīng)”，破除敵友對立，“努力減少家庭內(nèi)部的沖突”。

一枚燃燒彈，炸出了三方聲明，四方立場，但又不止于此。

敘事的沖突

莫雷諾·加馬、Pause AI、奧特曼的聲明，在各自邏輯里都是自洽的，但彼此卻是沖突的。他們在爭奪解釋權(quán)：誰是受害者，誰是威脅，誰有資格決定AI的未來。

誰是受害者？莫雷諾·加馬認(rèn)為，面對AI，人類是受害者，奧特曼是罪人，他是被迫走極端；而當(dāng)他發(fā)起暴力，試圖鏟除奧特曼，奧特曼可以認(rèn)為自己才是受害者，而讓反對者失去道義上的正當(dāng)性。

這里有必要先了解那些反AI的人和組織，反的究竟是什么？

莫雷諾·加馬的反對基于“AI滅絕人類”的陰謀論，但除他之外，還有不少抗議AI話題的組織和社會運(yùn)動。他們并非鐵板一塊，除了非暴力的立場一致外，彼此的反對和主張有明顯區(qū)別和具體關(guān)注的議題。

反AI組織Pause AI的游行示威活動

事件中的Pause AI是代表之一。它并非反對AI技術(shù)本身，也不認(rèn)為目前乃至未來大多數(shù)的AI模型構(gòu)成生存威脅，他們針對的是：暫停開發(fā)前沿模型，即“通用人工智能AGI”，直到建立嚴(yán)格的安全監(jiān)管和公眾監(jiān)督。

Stop AI態(tài)度強(qiáng)硬：永久強(qiáng)制禁止AGI，禁止AI驅(qū)動的自主武器、大規(guī)模監(jiān)視、AI訓(xùn)練盜竊知識產(chǎn)權(quán)，反對徹底摧毀人類勞動、思想、技能的“人類替代”，以及將人類與機(jī)器融合、實(shí)現(xiàn)永生的“超人類主義”。

QuitGPT靶子更具體，抵制的就只是chatGPT。起因是2月27日，OpenAI同意與五角大樓交易，提供技術(shù)和無限制訪問權(quán)限，而這很可能被用于制造武器和進(jìn)行大規(guī)模監(jiān)控，而其競爭對手Anthropic拒絕了同一交易。

文藝界發(fā)起“Stealing Isn’t Innovation”運(yùn)動，抗議AI公司大規(guī)模竊取知識產(chǎn)權(quán)訓(xùn)練AI模型；CREDO23反對使用任何生成式AI，以維護(hù)電影制作的藝術(shù)本質(zhì)和觀眾信任。

“Stealing Isn’t Innovation”運(yùn)動

Human First關(guān)心的是決策參與，反對少數(shù)未經(jīng)選舉的科技精英的規(guī)則壟斷，認(rèn)為普通民眾理應(yīng)參與這項(xiàng)技術(shù)的發(fā)展決策——盡管奧特曼的解釋是另一套邏輯：他聲稱避免壟斷的辦法，就是普及AI，他在為“去中心化”、鼓勵民眾參與作另一種努力。

還有一些反對運(yùn)動針對的是數(shù)據(jù)中心，反映了許多普通居民的立場。典型標(biāo)語是：要水喝，不要AI；保護(hù)農(nóng)田，不要數(shù)據(jù)中心。因?yàn)閿?shù)據(jù)中心對水資源消耗巨大，AI搶電致居民電價上漲。

反AI已經(jīng)不是單一議題，它囊括了就業(yè)民生、知識產(chǎn)權(quán)、生命倫理和民主監(jiān)督等諸多非情緒化的現(xiàn)實(shí)議題。

但無奈的是，這些非暴力的聲音，并沒有得到奧特曼乃至AI公司的正面回應(yīng)，反倒是丟出那一枚燃燒彈，相信“AI滅絕人類”陰謀論的莫雷諾·加馬，勾出了奧特曼的長篇大論。

監(jiān)管的空白，暴力混入

他們的討論非常熱鬧：要安全、要民主、要監(jiān)管、要防止權(quán)力集中，無論是奧特曼，還是像 PauseAI 這樣的組織，甚至《紐約客》，其實(shí)沒有原則上的分歧——至少言辭上沒有。

但這些共識幾乎停留在價值宣言，都回避了“具體怎么做”和宣言與現(xiàn)實(shí)的割裂。

奧特曼沒有就如何“為所有人創(chuàng)造繁榮，賦予所有人力量”給出“普及”之外的避險(xiǎn)方案，他也沒有放棄AGI——因?yàn)樗f：“一旦你看到了通用人工智能（AGI），就無法視而不見?！?/p>

Anthropic拒絕為五角大樓的機(jī)密系統(tǒng)提供技術(shù)，失去了政府訂單，但幾個小時后，Open AI取代了Anthropic，成為座上賓……奧特曼說權(quán)力不能過于集中，但OpenAI的市場地位仍在擴(kuò)張。

Anthropic

PauseAI等組織，除了舉標(biāo)語抗議、做公眾倡導(dǎo)，也沒有更進(jìn)一步的行動，真正參與到?jīng)Q策當(dāng)中。于是，盡管有輿論壓力，但數(shù)據(jù)中心還在建，AI模型訓(xùn)練依然無視版權(quán)問題，水費(fèi)電價還是貴，不使用AI制作電影，也停留在個人藝術(shù)選擇。

當(dāng)所有人都宣稱站在“安全監(jiān)管”和“民主監(jiān)督”這一邊，卻沒有人提供制度出口，共識就悄悄變成了一種免責(zé)工具——讓每一方都能聲稱自己立場正確，同時繼續(xù)做原來在做的事，無需更進(jìn)一步。

商業(yè)領(lǐng)袖和社會公眾揚(yáng)旗隔空喊話之間，制度性的監(jiān)管缺席了。

幾乎沒人會說監(jiān)管不重要，但監(jiān)管者本身陷入一種結(jié)構(gòu)性矛盾：政府本該當(dāng)裁判，但現(xiàn)在他們也是受益者。

法國巴黎大皇宮拍攝的人工智能行動峰會現(xiàn)場 / 圖源：新華社

另一個略顯尷尬又很現(xiàn)實(shí)的問題是：被認(rèn)為風(fēng)險(xiǎn)極高的“通用人工智能AGI”究竟是什么，它的風(fēng)險(xiǎn)如何界定，要管的是什么？禁止開發(fā)它的依據(jù)是什么？這些問題會讓討論在“我們還沒到那一步”的反駁中被稀釋。

于是一切照舊。依然是少數(shù)公司在訓(xùn)練模型，大量模型尚未開源，巨頭也沒有放緩競賽，監(jiān)管的主體也對更先進(jìn)的AI滿懷期待，從中制造一個AI狂飆突進(jìn)的窗口期。

而制度監(jiān)管持續(xù)滯后，填補(bǔ)真空的會是市場廝殺、巨頭自律，或者莫雷諾·加馬丟出的那枚燃燒彈。

作者 |施晶晶

編輯 | 向現(xiàn)

值班主編 | 吳擎

排版 | 諾言