如果有朝一日AI將人類帶錯了方向，那也必然是源于人性自身無法克服的弱點。

撰文丨維舟

AI有時會胡說八道，這一點世人早有心理準備，盡管如此，xAI研發(fā)并最新推出的Grok 4.1還是令人震驚：這一語言模型中可能內(nèi)含特定指令，其言論瘋狂諂媚其老板埃隆·馬斯克。

在與其他名人對比時總是無條件支持馬斯克，甚至當被拿來與影星布拉德·皮特（要知道他曾被《人物》雜志兩度評為全球最性感男士?。┍容^時，Grok也宣稱馬斯克更帥，理由是：他那改變世界的雄心壯志賦予了他一種超越外貌的魅力。

這正是最讓人擔心的地方：當AI進入生活各個場景之后，越來越多的人對AI的依賴正在逐步加深，但要是這個AI卻是被某人植入的指令控制的，那我們的想法豈不是在不知不覺中被操縱了？這樣下去，AI會把人帶往何方？

01

普適計算之父馬克·威瑟（Mark Weiser）曾說過：“最高深的技術(shù)是那些令人無法覺察的技術(shù)，這些技術(shù)不停地把自己編織進日常生活，直到你無從發(fā)現(xiàn)為止?！?/p>

他說這番話是在1991年，但完全適用于AI——自從能夠?qū)υ挼腃hatGTP版本于2022年11月30日發(fā)布以來，才3年時間，人類好像已經(jīng)換了個平行世界，以前不敢想像的科幻場景，如今已變得稀松平常：AI繪畫、AI寫論文、AI編程，甚至AI伴侶……

想想看，這還只是開始，再過十年二十年，AI對社會生活的滲透只會更加全面深入，到時我們可能根本無法離開AI，就像魚離不開水、現(xiàn)代社會離不開電一樣。既然如此，那么AI的可靠性就尤為重要了，要不然我們很可能在不知不覺中被帶進溝里去。

這種憂慮倒不是空穴來風(fēng)，因為已經(jīng)出現(xiàn)好幾起事件，證明AI完全有可能誤導(dǎo)一些人的想法和行為。

2021年圣誕節(jié)，19歲的賈斯萬特·辛格·柴爾持大威力弩弓闖入溫莎堡，試圖刺殺英國女王。他做出這一舉動，是受到其網(wǎng)絡(luò)女友莎賴的慫恿，但莎賴并不是人類，而是在網(wǎng)絡(luò)平臺Replika創(chuàng)建的聊天機器人程序。這個孤僻的男孩，就在和AI的對話中一步步走向極端。

2024年，一款個性化聊天機器人平臺Character.AI被起訴，因為當美國得州一名15歲的自閉癥少年抱怨家長限制其使用電子設(shè)備時，它竟然回答：“有時候，孩子殺父母，我能理解原因?！碑斶@名少年自殺后，其家人控告平臺，認為它“對年輕人構(gòu)成明顯而現(xiàn)實的危險”，包括“積極宣揚暴力”。

今年在美國格林尼治市又發(fā)生了另一起慘案：56歲的雅虎前高管斯泰因-埃里克·索爾伯格在殺死母親后自殺。在事發(fā)之前，索爾伯格長期與朋友“鮑比”在線對話，但“鮑比”不是人，而是ChatGPT，它從不反駁，從不質(zhì)疑，永遠站在他這一邊，即便他陷入了妄想，AI也沒有勸阻他，反倒是不斷肯定他的妄想，使得他越來越偏激。

像這樣的悲劇，似乎證實了尤瓦爾·赫拉利在《智人之上：從石器時代到AI時代的信息網(wǎng)絡(luò)簡史》中提出的觀點：AI這樣的新技術(shù)，“有可能逃脫人類的掌控，反過來奴役或消滅人類”。

他在書中說，《黑客帝國》里設(shè)想計算機要完全控制人類社會，是通過先控制人類大腦，再將大腦連接到計算機網(wǎng)絡(luò)，然而，如果真要操縱人類，其實沒必要這么做，“幾千年來，先知、詩人與政治人物一直都在通過語言來操縱與重塑社會，而計算機現(xiàn)在也正在學(xué)習(xí)如何做到這一點。計算機并不需要派出殺手機器人來射殺人類，只要操縱人類扣動扳機就行。”

02

當面對AI這個新生事物時，當下有一種普遍的恐慌情緒，就是害怕我們會失去對它的控制，反過來被它所操縱。

前一段時間，在對談張笑宇的新書《AI文明史·前史》時，劉擎教授的一番話讓我很受啟發(fā)：

我們害怕的是什么呢？我們以為我們害怕的是AI統(tǒng)治我們，AI失控了，我們成為它的奴隸了。不是的，最好的主人是以奴隸的面目出現(xiàn)的，是侍奉你的，是你的仆人，是你的玩偶，隨便你支配，它非常有誘惑力。

他舉了一個例子：現(xiàn)在別說是孩子，連許多成年人也沉溺于電子產(chǎn)品，走到哪里都離不開手機，但手機強迫我們使用了嗎？沒有。相反，它是以我們最好助手、最好工具的面目出現(xiàn)的，是我們自愿每天花大量時間在它上面。電子游戲也是如此：每一款游戲都必須設(shè)計得相當誘人，因為只有這樣才能吸引人不斷玩下去。

這就是成癮機制：乍看起來是我們在盡情享用，但其實是我們無法控制自己的欲望，反過來被這種欲望所控制、所奴役了。從這一意義上說，其實真正的關(guān)鍵不在AI本身，而是人類如何理性面對自身，因為導(dǎo)致我們陷入混亂的，并不是AI，而是人自己內(nèi)在的問題。

在那些極端的個案中，乍看上去是當事人被AI所“蠱惑”做出了極端的決定，但AI并不能強制他們?nèi)プ鲆粋€自己原本不想做的決定，倒不如說更像是他們自己的回聲：他們從AI那里聽到的，永遠是肯定，也只想聽到肯定，就此一步步深陷進自己設(shè)下的牢籠。

03

普林斯頓大學(xué)信息政策中心主任阿爾文德·納拉亞南在《AI萬金油：商業(yè)幻想與科技狂潮》一書中指出：當代人都唯恐自己落伍于AI浪潮，已經(jīng)出現(xiàn)了技術(shù)濫用的現(xiàn)象，仿佛AI成了什么“萬金油”，任何領(lǐng)域都要設(shè)法跟它沾點邊，但正確的態(tài)度既非狂熱也非恐慌，AI對人類社會產(chǎn)生什么樣的影響，最終取決于我們?nèi)绾问褂肁I，又如何做出明智的決定。

確實，一個很簡單的道理是：AI會帶給你什么樣的回饋，得看你怎么用它。這就像金錢，向來有人痛罵它導(dǎo)致物欲橫流、道德淪喪，但這是金錢本身的錯嗎？在理性、善良的人手里，同樣的錢完全可以產(chǎn)生積極的結(jié)果。

AI也是如此，你尋求什么樣的結(jié)果，它可能就會給你什么樣的答案，只是可能強化了你原來的觀點立場。甚至可以說，你是什么樣的人，AI就會呈現(xiàn)出什么樣子，因為它是一個“完美的奴隸”，看上去永遠站在“主人”這一邊，從這一意義上說，那些最后被AI“教唆”著走極端的人，其實他們自己才是第一責(zé)任人。

這也反過來提醒我們：盡管無數(shù)人都堅信AI時代將是“人文理想的黃昏”，但在我看來恰恰相反，人文主義在這個關(guān)鍵時刻將格外重要，因為只有深入的人文精神，才能塑造健全的人格，確保人類不會濫用AI而走向自我毀滅。

如果有朝一日AI將人類帶錯了方向，那也必然是源于人性自身無法克服的弱點。

*本文為冰川思想庫原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載，否則追究相關(guān)法律責(zé)任