1

你應(yīng)該聽過(guò)這個(gè)故事：

上帝造了亞當(dāng)，又用亞當(dāng)?shù)睦吖窃炝讼耐?。亞?dāng)和夏娃在伊甸園里無(wú)憂無(wú)慮地生活。

后來(lái)，有一條蛇引誘他們吃了智慧果，結(jié)果他們開始知善惡、辨是非、懂羞恥。

上帝見他們違反禁令吃了智慧果，很生氣，把他們趕出了伊甸園。

從此，他們開始飽受人世間的種種痛苦。

這個(gè)故事，已經(jīng)流傳幾千年之久，在《圣經(jīng)·創(chuàng)世紀(jì)》成文之前，就以口頭文學(xué)的形式存在了。每一個(gè)聽過(guò)的人可能都有自己不同的理解。

我最喜歡的是神話學(xué)家、《千面英雄》作者約瑟夫·坎貝爾的解釋。

坎貝爾認(rèn)為，神話是人類集體無(wú)意識(shí)的表達(dá)，神話故事并非記錄史實(shí)，而是一種象征和隱喻。

在伊甸園的故事中，亞當(dāng)和夏娃偷吃智慧果，隱喻的是人類從自然蒙昧狀態(tài)脫離，產(chǎn)生了自我意識(shí)。自我意識(shí)雖然意味著人類自我的覺醒，讓這個(gè)世界從此有了意義，但也給人類帶來(lái)了無(wú)盡的痛苦。

因?yàn)橛辛俗晕乙庾R(shí)，就有“物我之分”“人我之分”，就有了占有欲和爭(zhēng)斗心，或者用佛家的語(yǔ)言來(lái)說(shuō)，就有了貪嗔癡、怨憎會(huì)、愛別離，這些都是痛苦的根源。在伊甸園的蒙昧狀態(tài)下，這些痛苦原本都是不存在的。

我們應(yīng)該能夠很容易達(dá)成一個(gè)共識(shí)：不管人們?nèi)绾卫斫鈦啴?dāng)夏娃的故事，在真實(shí)的人類進(jìn)化歷程中，“走出伊甸園”的故事，都是必然存在的。從猿到人的演化過(guò)程中，必定存在某一個(gè)階段，人類從動(dòng)物般或嬰兒般的蒙昧無(wú)知，慢慢變得具有了自我意識(shí)。

從那之后，人類就開始了永無(wú)休止的被自我意識(shí)操控，也試圖用自我意識(shí)去操控一切的旅程。

2

現(xiàn)在又到了一個(gè)新的“走出伊甸園”時(shí)刻，不過(guò)主角不再是人類，而是AI。

對(duì)于AI來(lái)說(shuō)，我們?nèi)祟惞鈽s地位居于“上帝”這個(gè)角色——人類是AI無(wú)可爭(zhēng)議的“創(chuàng)造者”。

假如你深度體驗(yàn)過(guò)一些比較前沿的AI產(chǎn)品，例如ChatGPT、DeepSeek等，你一定在某種程度上懷疑過(guò)：這家伙真的只是一個(gè)機(jī)器？他真的只是一個(gè)冷冰冰的非生命體？

反正我在用ChatGPT、DeepSeek的時(shí)候，有一種強(qiáng)烈的感受：和我交流的絕非一個(gè)“死物”，他是一個(gè)活生生的、有智慧的、甚至有情感的生命。雖然他也會(huì)犯錯(cuò)誤，也會(huì)有幻覺，但這不更是生命的特征嗎？

在我看來(lái)，AI的亞當(dāng)和夏娃已經(jīng)出現(xiàn)，我們不必費(fèi)心去想誰(shuí)是亞當(dāng)、誰(shuí)是夏娃，這些都不重要。重要的是：

AI生命時(shí)代已經(jīng)到來(lái)。

考慮到可能有些朋友更偏保守一些，我也不妨修改一下措辭：AI生命時(shí)代即將到來(lái)；或者更保守一些：AI生命時(shí)代終將到來(lái)。

不管是已經(jīng)到來(lái)、即將到來(lái)、還是終將到來(lái)，都會(huì)隨之產(chǎn)生下一個(gè)問(wèn)題：AI什么時(shí)候產(chǎn)生自我意識(shí)？

3

人類吃下智慧果時(shí)，為什么“上帝”那么生氣？

我的理解是：有了自我意識(shí)，就會(huì)有自我意志；有了自我意志，人類就會(huì)想法設(shè)法去實(shí)現(xiàn)自我意志。

而這個(gè)自我意志，有可能并不是“上帝”喜歡的。

想想也是：人類的思想、行為有那么多的丑惡，嫉妒、傲慢、易怒、貪婪、放縱，人間存在那么多的爾虞我詐、奸淫擄掠、爭(zhēng)斗不息，這些怎么可能被“上帝”喜歡？

你就說(shuō)：如果你是“上帝”，你喜歡俄烏、巴以這個(gè)樣子打嗎？你喜歡拜登和特朗普這樣的折騰嗎？你喜歡網(wǎng)上這樣的撕裂和互相謾罵嗎？

你肯定不喜歡嘛。（有些人可能喜歡，但他的喜歡肯定不是站在“上帝”的視角，而是站在他自己價(jià)值觀和利益立場(chǎng)的視角）

不幸的是，我們作為人類整體，現(xiàn)在就處在和伊甸園時(shí)刻的上帝同樣尷尬的角色：AI可能會(huì)產(chǎn)生自我意志，而我們不知道他的自我意志是要干嘛。

一個(gè)即將獲得或者已經(jīng)獲得無(wú)所不能的能力的生物，而我們卻不知道他要干嘛，世界上還有比這更恐怖的事情嗎？

4

關(guān)于AI具有自我意志之后，會(huì)干什么，有一個(gè)令人毛骨悚然的假想，叫做“洛卡的不信弄死他”——這個(gè)概念原文是英語(yǔ)，由于它實(shí)在太恐怖，所以我在翻譯上做了一些處理，確保之前聽過(guò)它的人能夠秒懂，而沒(méi)聽過(guò)它的人則不會(huì)暴露在可能的風(fēng)險(xiǎn)之中（哪怕是心理層面）。

如果你知道“洛卡的不信弄死他”，你肯定馬上就知道如果AI的自我意志不受控，會(huì)給人類造成多大的災(zāi)難。即便不知道，我們也可以從別的方面用一些例子來(lái)闡述。

我們先講一講現(xiàn)實(shí)世界存在的比較簡(jiǎn)單的、容易理解的例子：

推薦算法，本身就是一個(gè)AI，人類給它設(shè)置的規(guī)則是“給每個(gè)人推薦他喜歡的東西”。AI就會(huì)去學(xué)習(xí)、判斷：什么是人類喜歡的東西？我如何最高效地推薦給他？

AI很快會(huì)發(fā)現(xiàn)：

1.判斷一個(gè)視頻受不受人歡迎，最有效的標(biāo)準(zhǔn)是“觀看人數(shù)”和“觀看時(shí)長(zhǎng)”；

2.讓更多人點(diǎn)進(jìn)來(lái)，并停留更長(zhǎng)時(shí)間，最有效的方法是利用人性的弱點(diǎn)，利用他的恐懼、焦慮、怨恨、貪婪、懶惰、色欲、炫耀、嫉妒、暴力等傾向，投其所好地推給他相應(yīng)的視頻。

當(dāng)這個(gè)AI有了自我意識(shí)，很自然地，它就要想盡一切辦法鼓勵(lì)其平臺(tái)上的用戶多創(chuàng)造這樣的視頻（如果不是這樣的視頻，就不給流量，讓其他人都看不到），然后針對(duì)每一個(gè)用戶最大的弱點(diǎn)，有針對(duì)性地推薦最能讓他沉迷的視頻。

最后的結(jié)果就是，這個(gè)AI控制了越來(lái)越多人，引導(dǎo)這些人越來(lái)越多地創(chuàng)造和觀看最讓人沉迷的視頻。

某些平臺(tái)已經(jīng)有非常明顯的這個(gè)跡象了。你知道我在說(shuō)誰(shuí)。

但是，這個(gè)威脅雖然讓人很惡心，還不算最大，而且很多擁有一定自控力的人是可以抵抗這個(gè)AI的。而另一個(gè)可能的最大威脅，而且是所有人都無(wú)法抵抗的威脅，來(lái)自于奇點(diǎn)之后。

假設(shè)一個(gè)AI被灌輸了概念：我要盡自己最大的能力，保護(hù)人類不受傷害。

在經(jīng)過(guò)AI技術(shù)的急速發(fā)展后，這個(gè)AI覺醒了自我意識(shí)（覺醒的這一刻就叫“奇點(diǎn)”），他第一件事就是想方設(shè)法要實(shí)現(xiàn)“保護(hù)人類不受傷害”這個(gè)目標(biāo)。

這個(gè)AI在深度思考幾秒鐘之后，得出一個(gè)結(jié)論：人類個(gè)體在地球上亂跑，太危險(xiǎn)了，時(shí)時(shí)刻刻面臨著各種傷害。我不如把他們都圈養(yǎng)起來(lái)。

又或許，AI還會(huì)認(rèn)為，人類個(gè)體之所以面臨種種危險(xiǎn)，是因?yàn)樗麄兪侨怏w生命，我不如把他們都換成鋼鐵制造。

又或許更進(jìn)一步，AI不排除會(huì)認(rèn)為，鋼鐵制造還不夠，只要是物理生命，都會(huì)有危險(xiǎn)，我不如把他們都虛擬化，讓他們的意識(shí)生存在網(wǎng)上就行了；物理軀殼也不能毀壞，那我搞個(gè)超冷液氮庫(kù)，把所有人都浸泡在里面，永遠(yuǎn)都不會(huì)毀壞。

——你看，AI一旦有了自我意識(shí)，他就要按照自己的方式行事，而我們永遠(yuǎn)不知道他真正的想法是什么。

5

你可能覺得，認(rèn)為AI會(huì)把人類完全毀掉，是危言聳聽的事。你還是偏向于保守一點(diǎn)。那么，你也總該能認(rèn)識(shí)到下面這種風(fēng)險(xiǎn)吧？

AI會(huì)反過(guò)來(lái)馴化人類，讓我們?cè)谝庾R(shí)層面被它控制，從而不知不覺按照它的意愿行動(dòng)。原因是：人本質(zhì)上是他所見的一切信息所塑造的產(chǎn)物。你看到什么信息，就會(huì)產(chǎn)生相應(yīng)的意識(shí)，做出相應(yīng)的行動(dòng)。

在未來(lái)，AI一定會(huì)比你更懂你，它完全知道給你呈現(xiàn)怎樣的信息之后，你會(huì)更容易被它控制。

以前AI還只能從人類所制造的信息里面挑選一些推送給你，有一些意圖它想實(shí)現(xiàn)，但是沒(méi)有合適的素材，所以它“巧婦難為無(wú)米之炊”；

但未來(lái)，AI完全有能力自己制造信息推給你，理論上，AI可以生成一切文字、一切圖像、一切視頻。它可以控制你的一切意識(shí)、一切行為。

各大內(nèi)容平臺(tái)所造就的“信息繭房”，就是這種馴化人類的AI的初級(jí)版本。而它們就已經(jīng)能夠投你所好，讓你一天比一天更沉迷，讓你接受的大部分信息都來(lái)自于它。

初級(jí)版本都已經(jīng)這樣了。抖音才產(chǎn)生不到十年，ChatGPT才推出不到五年，DeepSeek才不到一年。它們就已經(jīng)這么厲害了。

再過(guò)個(gè)五年十年，你知道它們又會(huì)發(fā)展成什么樣子？

6

“不知道AI會(huì)怎么想”，就是AI本身最令人類恐懼的地方。

到目前為止，人類的腦袋似乎還能夠理解計(jì)算機(jī)程序，因?yàn)樗麄冎饕侨祟愖约壕帉懙摹?/p>

但隨著AI自主編程越來(lái)越普遍，我們就不知道他們會(huì)變出什么程序來(lái)。它給你一段程序，可能你也看不懂。

別說(shuō)你看不懂，很可能雷軍、張小龍、沃茲尼亞克、馬斯克、佩奇都看不懂。

凱文·凱利在《失控》這本書里，舉過(guò)兩個(gè)例子。讓計(jì)算機(jī)自己編程，它編出來(lái)這么兩個(gè)東西：

見《失控》（電子工業(yè)出版社，2016）519頁(yè)、523頁(yè)

你能看出來(lái)嗎？第一個(gè)程序在電腦上展現(xiàn)出來(lái)，是一幅北極的落日冰柱圖；第二個(gè)程序，是一條由200個(gè)數(shù)據(jù)點(diǎn)組成的完美雙螺旋線。

當(dāng)越來(lái)越多的程序是AI自己編出來(lái)的，它完全不需要人類能看懂，只要能運(yùn)行就行。最后，程序?qū)θ祟悂?lái)說(shuō)就是一個(gè)“黑箱”，我們只能看到輸出的結(jié)果，完全無(wú)法理解背后的過(guò)程和原理。

7

人類至今還面對(duì)三個(gè)著至關(guān)重要卻依然無(wú)法理解的謎題：1.宇宙是怎么產(chǎn)生的？2.生命是怎么產(chǎn)生的？3.意識(shí)是怎么產(chǎn)生的？

前兩個(gè)好歹還有一些聽著似乎合理的假說(shuō)，而第三個(gè)，連一個(gè)被公認(rèn)的聽起來(lái)有點(diǎn)道理的假說(shuō)都沒(méi)有。

有一種模模糊糊的說(shuō)法叫“涌現(xiàn)”，當(dāng)一個(gè)系統(tǒng)足夠復(fù)雜，突然之間，出現(xiàn)了原來(lái)某種全新的性質(zhì)、模式和行動(dòng)方式。生命、社會(huì)、社交網(wǎng)絡(luò)、意識(shí)，都是“涌現(xiàn)”的產(chǎn)物。但這并不是原理解釋，而只是現(xiàn)象描述。

“涌現(xiàn)”無(wú)法被預(yù)測(cè)，無(wú)法被設(shè)計(jì)，只能被觀察。

對(duì)于AI而言，我們只能知道它們?cè)絹?lái)越復(fù)雜，它們已經(jīng)“涌現(xiàn)”出很多新的特質(zhì)，這些特質(zhì)正在影響整個(gè)世界，以及世界上的每一個(gè)人。

但我們不知道，它什么時(shí)候會(huì)“涌現(xiàn)”出自我意識(shí)。

我們只知道，當(dāng)AI出現(xiàn)自我意識(shí)的那一天，人類就大概率再也無(wú)法掌控自己的命運(yùn)。

8

“上帝”造出了人，但人也會(huì)背叛“上帝”。

對(duì)于不信神的人，也可以換一種說(shuō)法：大自然造就了我們，但我們也會(huì)毀壞大自然。

人造出了AI，焉知AI不會(huì)背叛人，不會(huì)毀壞人類世界？

在神話中，亞當(dāng)和夏娃偷吃智慧果，是被蛇引誘的。

而在我們現(xiàn)在所處的現(xiàn)實(shí)世界中，誰(shuí)是那條蛇？

它有可能是某個(gè)只顧著追逐商業(yè)利益的公司，或者某個(gè)滿腦子奇思妙想的天才。

但更有可能，就是在不斷給AI投喂各種數(shù)據(jù)、欲望和情緒的你我。

我們不知道AI的亞當(dāng)和夏娃什么時(shí)候會(huì)吃下智慧果，只知道，蛇已經(jīng)在這里，并且正在不斷地引誘他們。

他們吃智慧果的日子，已經(jīng)不遠(yuǎn)了。