來源：南風(fēng)窗

作者 | 施晶晶

編輯 | 向現(xiàn)

48小時內(nèi)，奧特曼的家2次凌晨遇襲。一次被丟燃燒彈，一次是驚聞門外槍響，所幸無人傷亡，犯罪嫌疑人也迅速被捕。

事件本身不大，但提供了一個關(guān)注“AI技術(shù)掌權(quán)者”和“AI反對者”博弈的絕佳窗口。在這里，我們聚焦第一起丟彈事件，因為圍繞它的信息披露和利益相關(guān)方的回應(yīng)更全面。

暴力在這里是最不重要的事，因為暴力的不正當(dāng)，是無需重申的共識。而丟彈事件暴露出來的另一個問題更值得拆解。

2024年1月16日，在美國舊金山拍攝的薩姆·奧爾特曼 / 圖源：新華社

事件發(fā)生后，在暴力反AI者、倡導(dǎo)非暴力的反AI組織、AI掌權(quán)者三方的宣言表態(tài)當(dāng)中，我們可以看見他們對敘事的爭奪——即如何基于已經(jīng)發(fā)生的暴力事實，解釋AI和它引發(fā)的沖突。

這些敘事或說法，構(gòu)成我們理解AI的多元面向，卻也暴露出我們對AI進行約束，哪怕是具體如何監(jiān)管的討論，在實質(zhì)層面上的懸浮與滯后。

“如果你活了下來，我會認(rèn)為是上天讓你去贖罪”

往奧特曼家丟燃燒彈的人叫莫雷諾·加馬，只有20歲。

4月10日凌晨，往奧特曼的家丟完燃燒彈，他就離開了現(xiàn)場。但一小時后，他出現(xiàn)在Open AI的總部，掄起一把藍色椅子，往玻璃大門上砸。

至少從監(jiān)控上看，玻璃門沒有碎，在他拎著一桶煤油靠近大門，準(zhǔn)備下一步行動時，安保走了出來。

莫雷諾·加馬很快被捕。據(jù)法院公開文件，警方繳獲了一份反AI文件，莫雷諾·加馬處在其中表達了對AI以及“多家AI公司高管”的反對觀點，并聲稱要殺死奧特曼（在原文件中稱“受害者-1”）。他還進一步列出了AI公司顯要的董事會成員、CEO以及投資者的名單和地址，顯然目標(biāo)不止一人。

莫雷諾·加馬被捕

在這份文件里，他還專門以“關(guān)于我們即將滅絕的一些額外言論”為題，討論AI對人類構(gòu)成的風(fēng)險。還對奧特曼放言：如果你活了下來，我會認(rèn)為是上天讓你去贖罪。

此外，在一個以莫雷諾·加馬為網(wǎng)址名的網(wǎng)頁上，有一篇長文，當(dāng)中寫到：即使在人類歷史上，每當(dāng)一個更先進的文明與一個不太先進的文明接觸時，后者往往都會遭遇征服和種族滅絕。那么，我們究竟為什么要明知故犯呢？……許多人對普通人的生命價值漠不關(guān)心……那么下一個問題就是：我們是否應(yīng)該袖手旁觀，任由事態(tài)發(fā)展？——之后，他提到了殺戮。

事后，反AI組織Pause AI迅速發(fā)聲明做切割。

聲明提供了一些信息，包括莫雷諾·加馬只是在2年間往他們的公共服務(wù)器發(fā)了34條消息，其中一條信息被標(biāo)記為含義模糊，審核員發(fā)出了警告，重申P(guān)ause AI組織的抗議、請愿、政策倡導(dǎo)和公眾教育，是合法、非暴力的，暴力恰恰是他們走向組織所極力避免的。

反AI組織Pause AI迅速發(fā)出聲明

“倡導(dǎo)對強大技術(shù)進行安全監(jiān)管和民主監(jiān)督，是公共生活中合法且必要的組成部分。試圖將和平倡導(dǎo)與個別個人的行為聯(lián)系起來，從而抹黑這種做法，是對公共討論以及世界亟需就人工智能展開的嚴(yán)肅對話的損害�！甭暶髦姓f。

但更矚目的是，這一有驚無險的突襲，讓另一事主奧特曼罕見地不再低調(diào)。

奧特曼，“雙重受害人”？

事發(fā)第二天，奧特曼在博客上發(fā)長文回應(yīng)，并附上一張家人的照片，包括幼兒的正臉�！拔曳窒磉@張照片，是希望它能阻止下一個朝我家扔燃燒彈的人，不管他們對我有什么樣的看法�！�

奧特曼在博客上發(fā)回應(yīng)長文

他還提及一篇報道，并認(rèn)為那是一篇“煽動性文章”。

那是發(fā)表在紐約客的一篇長文《奧特曼可能掌控我們的未來——但他值得信任嗎？》，作者之一Ronan Farrow得過普利策獎，報道采訪了一百多名親歷奧特曼商業(yè)運作的人，寫了外界對這位OpenAI掌門人持續(xù)存在的質(zhì)疑，奧特曼被評價得最多的是“撒謊”和“權(quán)力欲”。

報道中有句總結(jié)：即便與奧特曼關(guān)系密切的人，也很難分清他的“人類希望”止于何處，個人野心始于何處。他最大的優(yōu)勢始終是，能說服不同群體相信，他想要的與他們需要的是同一件事。

“昨天有人跟我說，他們覺得這篇文章發(fā)表在大家對人工智能極度焦慮的時期，會讓我處境更加危險。我對此不以為意�！钡潞�，奧特曼認(rèn)為這篇文章煽動了仇恨情緒，對此不滿：“現(xiàn)在我半夜醒來，怒火中燒，心想我真是低估了語言和敘事的力量�！�

他把“暴力”重新歸因：把個人的極端攻擊，解讀為敘事的后果，而他是雙重受害者。

接著，他一如既往強調(diào)AI技術(shù)的正當(dāng)性，稱“為所有人創(chuàng)造繁榮，賦予所有人力量，是我義不容辭的道德責(zé)任”“人工智能將成為人類能力和潛能拓展史上最強大的工具，人們對它的需求幾乎是無限的”……

OpenAI / 圖源：新華社

后續(xù)原文很長，大意是：AI真的很好，我做的事是為大家好。我知道“事情并非一帆風(fēng)順”，我也同意“人工智能必須民主化，權(quán)力不能過于集中，共同決定我們的未來走向”，而且“我們沒想掌握全部權(quán)力”，為此，我能想到的“唯一解法是讓這項技術(shù)廣泛普及”；最后我們要“學(xué)習(xí)適應(yīng)”，破除敵友對立，“努力減少家庭內(nèi)部的沖突”。

一枚燃燒彈，炸出了三方聲明，四方立場，但又不止于此。

敘事的沖突

莫雷諾·加馬、Pause AI、奧特曼的聲明，在各自邏輯里都是自洽的，但彼此卻是沖突的。他們在爭奪解釋權(quán)：誰是受害者，誰是威脅，誰有資格決定AI的未來。

誰是受害者？莫雷諾·加馬認(rèn)為，面對AI，人類是受害者，奧特曼是罪人，他是被迫走極端；而當(dāng)他發(fā)起暴力，試圖鏟除奧特曼，奧特曼可以認(rèn)為自己才是受害者，而讓反對者失去道義上的正當(dāng)性。

這里有必要先了解那些反AI的人和組織，反的究竟是什么？

莫雷諾·加馬的反對基于“AI滅絕人類”的陰謀論，但除他之外，還有不少抗議AI話題的組織和社會運動。他們并非鐵板一塊，除了非暴力的立場一致外，彼此的反對和主張有明顯區(qū)別和具體關(guān)注的議題。

反AI組織Pause AI的游行示威活動

事件中的Pause AI是代表之一。它并非反對AI技術(shù)本身，也不認(rèn)為目前乃至未來大多數(shù)的AI模型構(gòu)成生存威脅，他們針對的是：暫停開發(fā)前沿模型，即“通用人工智能AGI”，直到建立嚴(yán)格的安全監(jiān)管和公眾監(jiān)督。

Stop AI態(tài)度強硬：永久強制禁止AGI，禁止AI驅(qū)動的自主武器、大規(guī)模監(jiān)視、AI訓(xùn)練盜竊知識產(chǎn)權(quán)，反對徹底摧毀人類勞動、思想、技能的“人類替代”，以及將人類與機器融合、實現(xiàn)永生的“超人類主義”。

QuitGPT靶子更具體，抵制的就只是chatGPT。起因是2月27日，OpenAI同意與五角大樓交易，提供技術(shù)和無限制訪問權(quán)限，而這很可能被用于制造武器和進行大規(guī)模監(jiān)控，而其競爭對手Anthropic拒絕了同一交易。

文藝界發(fā)起“Stealing Isn’t Innovation”運動，抗議AI公司大規(guī)模竊取知識產(chǎn)權(quán)訓(xùn)練AI模型；CREDO23反對使用任何生成式AI，以維護電影制作的藝術(shù)本質(zhì)和觀眾信任。

“Stealing Isn’t Innovation”運動

Human First關(guān)心的是決策參與，反對少數(shù)未經(jīng)選舉的科技精英的規(guī)則壟斷，認(rèn)為普通民眾理應(yīng)參與這項技術(shù)的發(fā)展決策——盡管奧特曼的解釋是另一套邏輯：他聲稱避免壟斷的辦法，就是普及AI，他在為“去中心化”、鼓勵民眾參與作另一種努力。

還有一些反對運動針對的是數(shù)據(jù)中心，反映了許多普通居民的立場。典型標(biāo)語是：要水喝，不要AI；保護農(nóng)田，不要數(shù)據(jù)中心。因為數(shù)據(jù)中心對水資源消耗巨大，AI搶電致居民電價上漲。

反AI已經(jīng)不是單一議題，它囊括了就業(yè)民生、知識產(chǎn)權(quán)、生命倫理和民主監(jiān)督等諸多非情緒化的現(xiàn)實議題。

但無奈的是，這些非暴力的聲音，并沒有得到奧特曼乃至AI公司的正面回應(yīng)，反倒是丟出那一枚燃燒彈，相信“AI滅絕人類”陰謀論的莫雷諾·加馬，勾出了奧特曼的長篇大論。

監(jiān)管的空白，暴力混入

他們的討論非常熱鬧：要安全、要民主、要監(jiān)管、要防止權(quán)力集中，無論是奧特曼，還是像 PauseAI 這樣的組織，甚至《紐約客》，其實沒有原則上的分歧——至少言辭上沒有。

但這些共識幾乎停留在價值宣言，都回避了“具體怎么做”和宣言與現(xiàn)實的割裂。

奧特曼沒有就如何“為所有人創(chuàng)造繁榮，賦予所有人力量”給出“普及”之外的避險方案，他也沒有放棄AGI——因為他說：“一旦你看到了通用人工智能（AGI），就無法視而不見�！�

Anthropic拒絕為五角大樓的機密系統(tǒng)提供技術(shù)，失去了政府訂單，但幾個小時后，Open AI取代了Anthropic，成為座上賓……奧特曼說權(quán)力不能過于集中，但OpenAI的市場地位仍在擴張。

Anthropic

PauseAI等組織，除了舉標(biāo)語抗議、做公眾倡導(dǎo)，也沒有更進一步的行動，真正參與到?jīng)Q策當(dāng)中。于是，盡管有輿論壓力，但數(shù)據(jù)中心還在建，AI模型訓(xùn)練依然無視版權(quán)問題，水費電價還是貴，不使用AI制作電影，也停留在個人藝術(shù)選擇。

當(dāng)所有人都宣稱站在“安全監(jiān)管”和“民主監(jiān)督”這一邊，卻沒有人提供制度出口，共識就悄悄變成了一種免責(zé)工具——讓每一方都能聲稱自己立場正確，同時繼續(xù)做原來在做的事，無需更進一步。

商業(yè)領(lǐng)袖和社會公眾揚旗隔空喊話之間，制度性的監(jiān)管缺席了。

幾乎沒人會說監(jiān)管不重要，但監(jiān)管者本身陷入一種結(jié)構(gòu)性矛盾：政府本該當(dāng)裁判，但現(xiàn)在他們也是受益者。

法國巴黎大皇宮拍攝的人工智能行動峰會現(xiàn)場 / 圖源：新華社

另一個略顯尷尬又很現(xiàn)實的問題是：被認(rèn)為風(fēng)險極高的“通用人工智能AGI”究竟是什么，它的風(fēng)險如何界定，要管的是什么？禁止開發(fā)它的依據(jù)是什么？這些問題會讓討論在“我們還沒到那一步”的反駁中被稀釋。

于是一切照舊。依然是少數(shù)公司在訓(xùn)練模型，大量模型尚未開源，巨頭也沒有放緩競賽，監(jiān)管的主體也對更先進的AI滿懷期待，從中制造一個AI狂飆突進的窗口期。

而制度監(jiān)管持續(xù)滯后，填補真空的會是市場廝殺、巨頭自律，或者莫雷諾·加馬丟出的那枚燃燒彈。