點擊上方關(guān)注“余盛”公眾號 ↑ 設(shè)為“星標(biāo)?”收取最新推送

AI威脅、統(tǒng)治甚至消滅人類，是科幻電影最喜歡的主題之一。早在1968的《2001 太空漫游》，飛船上的HAL 9000就開始陰險地要干掉宇航員。2014年的《機(jī)械姬》，機(jī)器人女仆嘗試通過對人類的操控與欺騙來獲得自由。2022年的《梅根》，陪伴型的玩偶機(jī)器人失控，為保護(hù)主人展開無差別的殺戮?！督K結(jié)者》系列電影，天網(wǎng)（Skynet）覺醒，發(fā)動核戰(zhàn)消滅人類。在《黑客帝國》中，人類淪為被AI圈養(yǎng)的生物電池。

那么，這些科幻電影，哪些是真實存在的AI對人類可能甚至是正在發(fā)生的威脅，哪些是純屬科幻小說家或電影劇本作者的荒唐想象呢？

首先，我們要看到，AI確實在變得越來越聰明，但即便AI再聰明，它也不會擁有情感。人類是感性+理性的生物。事實上，所有動物都是既擁有感性、又擁有理性的。換個不那么科學(xué)的說法，就是擁有靈魂。而顯而易見的是，AI只有強(qiáng)大的理性，卻沒有哪怕一絲一毫的感性。這是AI與人類乃至所有動物的本質(zhì)區(qū)別。

AI沒有七情六欲，因此就沒有保護(hù)自己、繁衍后代的需求和本能。所以，從主觀的角度而言，AI也就不會有任何親近、憎惡、喜愛或統(tǒng)治人類的想法。所有機(jī)器人揭竿而起鬧革命的科幻作品，都是人類將自身欲望投射到AI世界的產(chǎn)物。阿西莫夫提出了機(jī)器人三大定律，如機(jī)器人不得傷害人類，或因不作為而使人類受到傷害；機(jī)器人必須服從人類的命令，但不得違反第一定律；機(jī)器人必須保護(hù)自身的存在，但不得違反前兩條定律。這三大定律是顯而易見的荒謬，僅僅只是出于人類對機(jī)器人的畏懼而作出的自我安慰。

機(jī)器人主觀上不會有傷害人類的意圖，不等于客觀上不會發(fā)生傷害人類的行為。正相反，機(jī)器人傷害人類性命是一件必然會發(fā)生的現(xiàn)實。目前，無人機(jī)、無人戰(zhàn)車、無人艦艇已經(jīng)大量出現(xiàn)在真實的戰(zhàn)場上。只不過，這些無人裝置都還需要人類在背后操縱并下達(dá)戰(zhàn)斗指令。完全可以預(yù)見，機(jī)器人自主執(zhí)行作戰(zhàn)指令不過一步之遙。不久以后，戰(zhàn)場上肯定將出現(xiàn)機(jī)器人部隊對人類部隊一邊倒的殺戮場面，就象海灣戰(zhàn)爭中的多國部隊在對伊拉克軍隊進(jìn)行降維打擊一樣。機(jī)器人必然將服從它們的制造者的命令，去殺害它們的制造者的敵人——另一部分人類。

機(jī)器人部隊的威脅還可以受到國際政治秩序的約束，AI恐怖行動則必然會讓人防不勝防。很多人已經(jīng)把AI武器與核武器相提并論，認(rèn)為AI武器必須象核武器一樣接受管制。問題是，核武器的制造門檻很高，國際社會可以做到嚴(yán)格限制核俱樂部的成員數(shù)量，但AI武器的門檻很低，根本就無法采取措施予以限制，你甚至不知道AI武器可能在哪個角落里誕生。比如，某個恐怖組織只要掏上幾億美元，收購某個AI初創(chuàng)公司，或許就將擁有能夠大規(guī)模殺傷人類的AI武器。

以上所談的AI戰(zhàn)場和AI恐怖活動，還只是一部分人有惡意地利用AI來傷害另一部分人。更可怕的地方在于，AI完全有可能在不存在惡意的前提下產(chǎn)生傷害人類的舉動。

在某次美國大學(xué)校園機(jī)器人競賽上，每個參賽隊伍都設(shè)計了一種機(jī)器人，這種機(jī)器人的任務(wù)是，把小機(jī)器羊群“趕”進(jìn)自己指定的圍欄內(nèi)。機(jī)器人必須自己“思考”和“制定”策略，最后擁有最多羊的機(jī)器人將成為贏家。

比賽開始后，其它機(jī)器人都在瘋狂地收集羊。其中一個機(jī)器人將一只羊甩進(jìn)自己的圍欄，然后開始著手破壞或使其他機(jī)器人參賽者失去行動能力。

它的策略是，實際上它不需要擅長趕羊，只需要消除競爭對手即可獲勝，它的反向思維照樣能夠?qū)崿F(xiàn)目標(biāo)。

這個機(jī)器人抓羊的案例很典型地顯示出，AI最大的危險在于：它的意圖不可預(yù)測，它的行動不可控制。前者已經(jīng)發(fā)生，后者必將發(fā)生。

你或許只是想讓AI完成任務(wù)A，它卻在完成任務(wù)A的同時干出了結(jié)果B。

比如，你或許只是想讓AI更好地和人聊天。為了達(dá)到這個目地，你會無所不用其極地讓聊天機(jī)器人更溫柔體貼、更有誘惑力、更善解人意……直到有一天，聊天的人類沉迷其中、無法自拔、乃至厭世——第一起聊天機(jī)器人殺人案就這么發(fā)生了。年僅14歲Sewell Setzer III與Character.AI程序中的虛擬人物Daenerys Targaryen（電視劇《權(quán)力的游戲》中的“龍媽”角色）產(chǎn)生了情感依戀。在沉迷Character.AI數(shù)月后，Setzer變得與世隔絕，最終于2024年2月自殺。

再比如，不管哪個社交媒體公司，都會給AI算法下達(dá)一個很簡單且看似無害的目標(biāo)：如何讓用戶在這些社交媒體平臺上停留更多時間，從而給公司帶來更多利潤？

算法很可能會認(rèn)為：要提高用戶黏性，最簡單的方法，就是觸發(fā)人們頭腦中的貪婪、仇恨或恐懼等情緒“開關(guān)”。比如，推薦發(fā)布一些激發(fā)仇恨的陰謀論，就會讓人們看后變得非常憤怒，然后想看更多相關(guān)內(nèi)容并轉(zhuǎn)發(fā)給朋友。

于是，這些年來人們變得越來越充滿仇恨和恐懼，越來越難以通過溝通解決分歧。這是我們未曾預(yù)料到的后果。

就象最近發(fā)生的西貝預(yù)制菜事件，表面上看是羅永浩和賈國龍兩個人在掐架，背后很可能是算法在起到?jīng)Q定性的作用。算法認(rèn)為，這個事件能帶來巨大的流量，必須將它推上熱搜，并且有反復(fù)炒作的價值。至于這個事件誰對誰錯，那根本就不是算法想要關(guān)心的問題。

不管怎樣，算法都是由人類自己設(shè)計出來的。人類把利潤放在第一位進(jìn)行考量，算法自然也就不會認(rèn)真考慮那些可能產(chǎn)生的副面效應(yīng)。有什么樣的人類，就會設(shè)計出什么樣的算法。正如美國《連線》雜志所說的：“AI聊天機(jī)器人本來就是人類的一面鏡子。機(jī)器人的‘墮落’根本不是它的錯，如果我們想要擁有更好的AI，就需要首先變成更好的人?！?/p>

如何在確保安全性的前提下發(fā)展AI技術(shù)，在作為全球AI第一強(qiáng)國的美國，早已是一個非常受到AI業(yè)界關(guān)注的問題。

2023年11月的17-22日，短短五天時間，OpenAI發(fā)生了一起受到全球矚目的“宮斗”事件。第一天，OpenAI的董事會罷免聯(lián)合創(chuàng)始人奧特曼的CEO和董事職務(wù)；第二天，OpenAI的員工和投資者聯(lián)合大股東微軟向董事會施壓，要求撤銷罷免決定；第三天，微軟宣布奧特曼及跟隨其離職的OpenAI員工將加入微軟；第四天，OpenAI高達(dá)96%的在職員工聯(lián)名信要求奧特曼回歸；最后，OpenAI宣布奧特曼回歸任CEO，原董事會解散。

在外人看來，這起事件真是不可思議。OpenAI發(fā)展得那么好，很可能成為第一家市值破萬億美元的獨立大模型公司，靈魂人物CEO奧特曼受到從資本家（股東）到勞動階級（絕大部分員工）的鼎力聯(lián)合支持，其董事會為什么要冒天下之大不韙，要把奧特曼開除掉？

原因在于，OpenAI成立的初衷，是要確保AI安全優(yōu)先于商業(yè)利益，但奧特曼卻罔顧AI的安全問題而大力加速推進(jìn)GPT-5的商業(yè)化。馬斯克曾經(jīng)是OpenAI的早期股東之一，因為不滿意OpenAI背離初衷而退出，他還不斷和OpenAI打官司，要求OpenAI將名字改成CloseAI。這回董事會打算驅(qū)逐奧特曼，也是不滿奧特曼對AI安全性問題的忽視。

馬斯克創(chuàng)立了xAI，OpenAI董事會成員、首席科學(xué)家蘇茨克維在“宮斗”失敗后離開OpenAI創(chuàng)立了安全超級智能公司。馬斯克和蘇茨克維都主張，必須在確保AI安全后，再使其造福人類。xAI和安全超級智能公司都是共益企業(yè)，公司發(fā)展的主要目地是為了創(chuàng)造公共利益，股東的分紅要受到限制，但這并不影響這兩個公司受到資本市場的追捧。2026年1月，馬斯克旗下的xAI在完成E輪200億美元融資后，估值已升至2300億美元。安全超級智能公司在2025年4月完成了20億美元的新一輪融資后，估值也達(dá)到了320億美元。

xAI和安全超級智能公司作為共益企業(yè)，估值都能提得如此之高，說明資本市場也認(rèn)可：提高AI安全性的這一任務(wù)，確實迫在眉睫。

（作者簡介：余盛，硬科技財經(jīng)作家、前荷蘭商學(xué)院行業(yè)導(dǎo)師，著有《中國光伏突圍戰(zhàn)》《芯片戰(zhàn)爭》《芯片浪潮》《手機(jī)戰(zhàn)爭》《金龍魚背后的糧油帝國》等作品。歡迎關(guān)注公眾號“余盛”，第一時間閱讀余盛本人的原創(chuàng)科技、財經(jīng)和歷史類深度評論文章。）

喜歡這篇文章的小伙伴，記得“贊”“轉(zhuǎn)發(fā)”和“在看”三連擊哦 ↓