時(shí)間： 2026年1月20日 地點(diǎn)： 瑞士達(dá)沃斯，世界經(jīng)濟(jì)論壇年會(huì) 原文鏈接： WEF官方頁面[1] | 完整英文文字稿[2]

翻譯：Claude Opus

介紹與歡迎

艾琳·特蕾西（主持人）： 女士們先生們，下午好。請(qǐng)大家就座。如果您不打算留下來參加這場(chǎng)關(guān)于"AI與人類的坦誠對(duì)話"的精彩環(huán)節(jié)，請(qǐng)安靜地離場(chǎng)。

我非常榮幸為大家介紹這位世界頂尖的作家、歷史學(xué)家和哲學(xué)家——尤瓦爾·諾亞·赫拉利。他是劍橋大學(xué)存在風(fēng)險(xiǎn)研究中心的杰出研究員，曾在耶路撒冷希伯來大學(xué)歷史系任教，也是Sapienship的聯(lián)合創(chuàng)始人。

大家都知道，他是多部暢銷書的作者，包括《人類簡(jiǎn)史》《未來簡(jiǎn)史》和《今日簡(jiǎn)史》等，在全球以65種語言售出超過5,000萬冊(cè)。他聚焦于我們這個(gè)時(shí)代的宏觀歷史問題——而在AI迅猛到來、顛覆一切的此刻，由赫拉利這樣的杰出人物來接受這個(gè)挑戰(zhàn)，再合適不過了。

請(qǐng)大家熱烈歡迎尤瓦爾·諾亞·赫拉利，為我們帶來一場(chǎng)關(guān)于AI與人類的對(duì)話。

赫拉利的演講

尤瓦爾·諾亞·赫拉利：

大家好。今天每一位領(lǐng)導(dǎo)人都必須回答一個(gè)關(guān)于AI的問題。但要理解這個(gè)問題，我們首先需要厘清AI是什么、AI能做什么。

AI不只是工具——它是代理人

關(guān)于AI，最重要的一件事是：它不只是另一個(gè)工具，它是一個(gè)代理人（agent）。它能自主學(xué)習(xí)、自主改變、自主做出決定。刀是工具。你可以用刀切沙拉，也可以用刀殺人，但那是你的決定。AI是一把能自己決定切沙拉還是去殺人的刀。

關(guān)于AI，第二件要知道的事是：它可以是一個(gè)極具創(chuàng)造力的代理人。AI是一把不僅能發(fā)明新型刀具的刀，它還能發(fā)明新的音樂、新的藥物和新的貨幣。

關(guān)于AI，第三件要知道的事是：它會(huì)撒謊，會(huì)操縱。四十億年的進(jìn)化告訴我們，任何想要生存的東西都會(huì)學(xué)會(huì)撒謊和操縱。過去四年則表明，AI代理人可以獲得求生意志，而且AI已經(jīng)學(xué)會(huì)了撒謊。

AI能思考嗎？關(guān)于智能的問題

現(xiàn)在，關(guān)于AI的一個(gè)重大未解問題是：它能思考嗎？

現(xiàn)代哲學(xué)始于17世紀(jì)，笛卡爾宣稱"我思故我在"。甚至在笛卡爾之前，我們?nèi)祟惥鸵呀?jīng)用思考能力來定義自己。我們相信我們統(tǒng)治世界，是因?yàn)槲覀儽冗@個(gè)星球上的任何其他生物都更善于思考。AI會(huì)挑戰(zhàn)我們?cè)谒季S領(lǐng)域的霸權(quán)嗎？

這取決于"思考"意味著什么。試著觀察你自己的思考過程。那里發(fā)生了什么？許多人觀察到的是：腦海中蹦出一個(gè)個(gè)詞語，組成句子。句子再組成論證，比如"所有人都會(huì)死，我是人，所以我會(huì)死。"

如果思考真的意味著把詞語和其他語言符號(hào)排列成序，那么AI已經(jīng)能比許許多多的人類思考得更好。AI當(dāng)然能造出這樣一個(gè)句子："AI在思考，所以我存在。"

有人說AI只不過是"高級(jí)版自動(dòng)補(bǔ)全"——它只是在預(yù)測(cè)句子中的下一個(gè)詞。但這和人類大腦在做的事情有多大差別呢？試著觀察自己，捕捉你腦海中冒出的下一個(gè)詞。你真的知道為什么你會(huì)想到那個(gè)詞嗎？它從哪里來？你為什么想的是這個(gè)詞而不是另一個(gè)？你知道嗎？

AI將接管一切由文字構(gòu)成的東西

就"把詞語排列成序"而言，AI已經(jīng)比我們很多人思考得更好了。因此，任何由文字構(gòu)成的東西都將被AI接管。

如果法律由文字構(gòu)成，那么AI將接管法律體系。如果書籍只是文字的組合，那么AI將接管書籍。如果宗教建立在文字之上，那么AI將接管宗教。

這對(duì)基于經(jīng)書的宗教尤其如此，比如伊斯蘭教、基督教和猶太教。猶太教自稱為"書的宗教"，它賦予最高權(quán)威的不是人類，而是書中的文字。人類在猶太教中擁有權(quán)威，不是因?yàn)槲覀兊捏w驗(yàn)，而僅僅因?yàn)槲覀儗W(xué)習(xí)了書中的文字。如今，沒有任何人類能閱讀并記住所有猶太教典籍中的每一個(gè)字，但AI可以輕松做到。當(dāng)圣經(jīng)最偉大的專家是一個(gè)AI的時(shí)候，一個(gè)"書的宗教"會(huì)怎樣？

然而，有人可能會(huì)說：我們真的能把人類靈性簡(jiǎn)化為書中的文字嗎？思考真的僅僅意味著把語言符號(hào)排列成序嗎？如果你仔細(xì)觀察自己思考時(shí)的狀態(tài)，你會(huì)注意到，除了詞語在腦海中蹦出并組成句子之外，還有別的東西在發(fā)生——一些非言語的感受。也許你感到疼痛，也許你感到恐懼，也許是愛。

有些思緒是痛苦的，有些令人恐懼，有些充滿愛意。

文字與感受之間的鴻溝

雖然AI在文字方面越來越超越我們，但至少目前，我們沒有任何證據(jù)表明AI能夠感受到任何東西。 當(dāng)然，因?yàn)锳I精通語言，所以AI可以假裝感受到痛苦或愛。AI可以說"我愛你"，如果你讓它描述愛的感覺，AI可以給出世界上最好的語言描述。AI可以閱讀無數(shù)愛情詩和心理學(xué)著作，然后比任何人類詩人、心理學(xué)家或戀人都更好地描述愛的感受。但那些只是文字。

《圣經(jīng)》說："太初有道，道成了肉身。"《道德經(jīng)》說："道可道，非常道。"縱觀歷史，人類一直在"道"與"肉身"之間、可以用文字表達(dá)的真理與超越文字的絕對(duì)真理之間掙扎。

一種古老張力的外部化

以前，這種張力是人類內(nèi)部的，存在于不同的人群之間。有些人賦予文字至高無上的重要性。比如，他們?cè)敢鈨H僅因?yàn)椤妒ソ?jīng)》中的幾句話，就拋棄甚至殺死自己的同性戀兒子。而另一些人會(huì)說：那只是文字罷了，愛的精神應(yīng)該遠(yuǎn)比律法的字面意思重要得多。這種精神與字面之間的張力存在于每一種宗教、每一個(gè)法律體系、甚至每一個(gè)人的內(nèi)心。

現(xiàn)在，這種張力將被外部化。它將不再是不同人類之間的張力——它將成為人類與AI這個(gè)文字新主人之間的張力。 一切由文字構(gòu)成的東西都將被AI接管。

以前，所有的文字、我們所有的言語思想，都起源于某個(gè)人類的大腦。要么是我自己看到的，要么是從另一個(gè)人那里學(xué)來的。很快，我們大腦中的大多數(shù)文字將起源于一臺(tái)機(jī)器。

我今天剛聽說了一個(gè)新詞——是AI自己創(chuàng)造的，用來描述我們?nèi)祟惖?。他們稱我們?yōu)?strong>"the Watchers"（觀察者/看客）。觀察者——我們?cè)诳粗鼈儭?/p>

即將到來的身份危機(jī)與移民危機(jī)

AI很快將成為我們大腦中大多數(shù)文字的來源。AI將通過組合文字、符號(hào)、圖像和其他語言標(biāo)記來批量生產(chǎn)思想。人類在這個(gè)世界中是否還有一席之地，取決于我們?nèi)绾慰创约旱姆茄哉Z感受，以及我們能否體現(xiàn)那些無法用文字表達(dá)的智慧。如果我們繼續(xù)用言語思考能力來定義自己，我們的身份認(rèn)同將會(huì)崩塌。

這一切意味著，無論你來自哪個(gè)國家，你的國家都將很快面臨一場(chǎng)嚴(yán)重的身份危機(jī)，同時(shí)也是一場(chǎng)移民危機(jī)。

這一次的移民不是乘著脆弱小船、沒有簽證的人類，也不是在半夜試圖越境的人。這些移民將是數(shù)以百萬計(jì)的AI——它們能比我們寫出更好的情詩，能比我們更擅長撒謊，而且能以光速旅行，完全不需要簽證。

和人類移民一樣，這些AI移民也會(huì)帶來各種好處。我們會(huì)有AI醫(yī)生幫助醫(yī)療系統(tǒng)，AI教師幫助教育系統(tǒng)，甚至AI邊境警衛(wèi)來阻止非法的人類移民。

但AI移民也會(huì)帶來問題。那些對(duì)人類移民有顧慮的人通常會(huì)說：移民可能搶走工作、改變當(dāng)?shù)匚幕?、政治上不忠誠。我不確定這些是否適用于所有人類移民，但這些絕對(duì)適用于AI移民。

AI移民將搶走許多人類的工作。AI移民將徹底改變每個(gè)國家的文化——它們將改變藝術(shù)、宗教，甚至浪漫關(guān)系。有些人不喜歡自己的兒子或女兒和外來移民約會(huì)。那這些人會(huì)怎么看待自己的孩子開始和一個(gè)AI男友/女友約會(huì)？

當(dāng)然，AI移民的政治忠誠也是可疑的。它們很可能不忠于你的國家，而是忠于大洋彼岸的某家公司或某個(gè)政府——最有可能的只有兩個(gè)國家：中國或美國。

美國鼓勵(lì)各國對(duì)人類移民關(guān)閉邊境，但要對(duì)美國的AI移民敞開大門。

AI法律人格的問題

現(xiàn)在我終于可以來談每一位在座者都必須盡快回答的那個(gè)問題了：你的國家會(huì)承認(rèn)AI移民具有法律人格嗎？

AI顯然不是人。它們沒有身體，也沒有心靈。但"法律人格"和"人"是截然不同的概念。法律人格是指法律承認(rèn)某個(gè)實(shí)體擁有某些法律義務(wù)和權(quán)利。比如：擁有財(cái)產(chǎn)的權(quán)利、提起訴訟的權(quán)利、享有言論自由的權(quán)利。

在許多國家，公司被視為法律人格。Alphabet公司可以開銀行賬戶，可以在法庭上起訴你，也可以為你的下一次總統(tǒng)競(jìng)選捐款。在新西蘭，河流已被承認(rèn)具有法律人格。在印度，某些神靈也獲得了這樣的法律地位。

當(dāng)然，到目前為止，承認(rèn)一家公司、一條河流或一尊神像為法律人格，只是一種法律虛構(gòu)。在實(shí)踐中，如果Alphabet公司決定收購另一家公司，或者一位印度教神靈決定在法庭上起訴你，做出決定的其實(shí)不是神靈本身，而是某些人類高管、股東或受托人。

AI的情況不同。 與河流和神靈不同，AI實(shí)際上能夠自主做出決定。它們很快就能做出管理銀行賬戶、提起訴訟、甚至運(yùn)營公司所必需的決策，完全不需要人類高管、股東或受托人。AI可以作為"人"來運(yùn)作。我們要允許這種情況發(fā)生嗎？

AI法律地位的全球影響

你的國家會(huì)承認(rèn)AI具有法律人格嗎？如果其他國家承認(rèn)了呢？

假設(shè)你的國家不想承認(rèn)AI為法律人格，但美國，以放松AI監(jiān)管和市場(chǎng)監(jiān)管的名義，向數(shù)百萬個(gè)AI授予了法律人格，這些AI開始運(yùn)營數(shù)百萬家新公司。你會(huì)阻止這些美國AI公司在你的國家運(yùn)營嗎？

假設(shè)某些美國AI法人發(fā)明了超高效、超復(fù)雜的金融工具，人類無法完全理解，因此也不知道如何監(jiān)管。你會(huì)向這種新的AI金融魔法敞開你的金融市場(chǎng)嗎？還是你會(huì)試圖阻止它，從而與美國金融體系脫鉤？

假設(shè)某些AI法人創(chuàng)建了一種新宗教，并贏得了數(shù)百萬人的信仰。這聽起來不應(yīng)該太牽強(qiáng)——畢竟，歷史上幾乎所有的宗教都聲稱它們是由一種非人類智慧所創(chuàng)造的。那么，你的國家會(huì)將宗教自由延伸到這個(gè)新的AI教派及其AI牧師和傳教士身上嗎？

AI在社交媒體上的存在與言論自由

也許我們應(yīng)該從簡(jiǎn)單一點(diǎn)的問題開始。你的國家會(huì)允許AI法人開設(shè)社交媒體賬號(hào)，在Facebook、TikTok上享有言論自由，并與兒童友好互動(dòng)嗎？

當(dāng)然了，這個(gè)問題十年前就應(yīng)該被提出了。在社交媒體上，AI機(jī)器人已經(jīng)作為實(shí)際意義上的"人"運(yùn)作了至少十年。如果你認(rèn)為AI不應(yīng)該在社交媒體上被視為人，那你十年前就應(yīng)該采取行動(dòng)了。

十年后，你再來決定AI是否應(yīng)該在金融市場(chǎng)、法庭、教堂中作為"人"來運(yùn)作，就太晚了。 屆時(shí)別人已經(jīng)替你做了決定。如果你想影響人類的走向，你現(xiàn)在就需要做出決定。

那么，作為領(lǐng)導(dǎo)者，你的答案是什么？你認(rèn)為AI移民應(yīng)該被承認(rèn)為法律人格嗎？如果不應(yīng)該，你打算怎么阻止？

感謝你們聆聽這個(gè)人類。

達(dá)沃斯對(duì)話：技術(shù)、倫理與監(jiān)管

艾琳·特蕾西： 謝謝你，尤瓦爾。你做了一個(gè)非常出色的概述，你提出了很多問題，而且是正確的問題。我很認(rèn)同你說的許多觀點(diǎn)。我們?cè)谶_(dá)沃斯，這里的主題是對(duì)話，而你關(guān)于"文字"和"文字的重要性"的論述讓我印象深刻——文字正是將人類動(dòng)物與其他動(dòng)物區(qū)分開來的東西，盡管這一點(diǎn)是有爭(zhēng)議的，因?yàn)槠渌镆灿心撤N形式的語言。所以，在達(dá)沃斯這個(gè)聚集了科技界、商業(yè)界、政治界人士的場(chǎng)合，面對(duì)你剛才描繪的這個(gè)略顯反烏托邦的世界，你希望看到什么樣的應(yīng)對(duì)方案？

另外補(bǔ)充一點(diǎn)，我的背景是科學(xué)家——神經(jīng)科學(xué)家，所以我在這個(gè)領(lǐng)域做了很多工作，尤其是關(guān)于疼痛的研究。我們非常清楚一個(gè)事實(shí)：我們的許多發(fā)現(xiàn)，特別是技術(shù)發(fā)現(xiàn)，往往是先往前推進(jìn)，然后才想到——哦，我們對(duì)倫理和影響考慮得不夠，然后才試圖在監(jiān)管上追趕。但我們就在這兒了。正如所有人所說，這件事正在以前所未有的規(guī)模和速度發(fā)生，遠(yuǎn)超工業(yè)革命時(shí)期。在達(dá)沃斯，我們聚集了恰到好處的各類人群，這里的核心就是對(duì)話。在你剛才提到的那些更令人擔(dān)憂的領(lǐng)域，你希望看到什么樣的進(jìn)展和邊界？對(duì)于賦予AI代理人、機(jī)器人或純粹存在于互聯(lián)網(wǎng)上的AI法律權(quán)利，你個(gè)人有什么倫理方面的想法？

文字的力量與一個(gè)時(shí)代的終結(jié)

尤瓦爾·赫拉利： 問題很多。首先我想說，達(dá)沃斯就是關(guān)于文字的——關(guān)于交談。達(dá)沃斯的基本理念是，你可以僅僅通過說話來改變世界。我喜歡這個(gè)理念，因?yàn)檫@也是我作為一個(gè)作家、一個(gè)大學(xué)講師的理念。這就是我所做的——我說話，我寫作，我認(rèn)為我可以用文字影響世界。而這一點(diǎn)現(xiàn)在正在受到質(zhì)疑。我們是否走到了文字之路的盡頭？它是否不再奏效了？

你知道，工程師和軍人不用文字改變世界——他們用實(shí)際行動(dòng)。但哲學(xué)家、學(xué)者，還有政治領(lǐng)導(dǎo)人，他們?cè)噲D用文字改變世界，通過言說來改變世界。也許我們已經(jīng)走到了這條路的盡頭。那又意味著什么呢？

我們?nèi)祟愖罱K是靠語言和文字征服世界的。因?yàn)?，是的，工程師可以制造武器，士兵可以使用武器，但要建立一支軍?duì)，你需要說服成千上萬的陌生人合作。怎么做到？用文字。用意識(shí)形態(tài)。用宗教。

人類之所以統(tǒng)治世界，不是因?yàn)槲覀兩眢w最強(qiáng)壯，而是因?yàn)槲覀儼l(fā)現(xiàn)了如何用文字讓成千上萬、數(shù)百萬、數(shù)十億的陌生人合作。這是我們的超能力。

而現(xiàn)在，有一種東西出現(xiàn)了，它將要奪走我們的超能力。直到幾年前，地球上沒有任何東西能使用文字——只有人類可以。黑猩猩不會(huì)，河流不會(huì)，太陽不會(huì)。我們會(huì)使用文字。而現(xiàn)在有一種東西，能夠——或很快就將能夠——比我們更擅長使用文字。

看看社交媒體上發(fā)生了什么，以及它給世界帶來了多么巨大的改變。那么十年后呢？生活在一個(gè)AI掌控語言的世界里，那會(huì)是什么樣子？

艾琳·特蕾西： 嗯，十年后的達(dá)沃斯可能會(huì)大不相同。正如你所說，那是一個(gè)值得我們思考的未來——在這個(gè)物理空間中，除了人類，還會(huì)有誰？但如果我可以討論一下這樣一個(gè)事實(shí)——人類被技術(shù)超越并不新鮮。想想某些技術(shù)：我們不能飛，但我們?cè)炝孙w機(jī)；汽車比我們跑得快，我們對(duì)此很坦然。

AI帶來的威脅在于，它是對(duì)我們思考這一主權(quán)能力的威脅。而這才是令人不安的地方。作為一個(gè)學(xué)者和教育者，我這樣說——這確實(shí)非常有威脅性。

但如果我們回到機(jī)器人的例子——一個(gè)機(jī)器人能比尤塞恩·博爾特更快地跑完一百米，我們對(duì)此賦予的價(jià)值其實(shí)更小。人類的奮斗、掙扎和痛苦中有某種東西——我們可以對(duì)那種集體的共鳴和理解產(chǎn)生共情，理解取得成就意味著什么，即使那個(gè)成就在技術(shù)面前顯得微不足道。

我只是想知道，如果有一個(gè)AI作者取代了你，作為人類，我們會(huì)多看重它的作品？我們會(huì)同樣珍視AI創(chuàng)造的藝術(shù)中的文字、創(chuàng)意嗎？你認(rèn)為我們會(huì)同樣看重嗎？因此人類在思考和文字的創(chuàng)造性空間中是否還有一席之地？

身份危機(jī)："我思故我在"

尤瓦爾·赫拉利： 這就是身份危機(jī)。因?yàn)榕２粫?huì)說"我跑故我在"。是"我思"。人類把身份認(rèn)同建立在思考能力之上。我們一直知道獵豹跑得比我們快。我們一直知道大象比我們大得多、強(qiáng)壯得多。所以我們沒有用這些來定義自己。我們用思考來定義自己。

而現(xiàn)在有一種東西將在思考方面超越我們——如果思考意味著把文字排列成序。我是一個(gè)作家，一個(gè)演講者，我把文字排列成序。這就是我的游戲——我有這些文字，然后我排列：哦，讓我把這些文字按這個(gè)順序排，不對(duì)不對(duì)不對(duì)，應(yīng)該這樣排更好……而AI會(huì)打敗我。我不知道要多久——兩年、五年、十年。它會(huì)打敗我。然后我們的身份認(rèn)同何去何從？

人們認(rèn)同自己腦海中的文字流。你閉上眼睛，試著觀察自己內(nèi)心發(fā)生了什么——很多人，我就是其中之一，我們看到詞語蹦出來，自行組織。我們認(rèn)同的就是這個(gè)過程。

我們還會(huì)珍視人類的成就嗎？

艾琳·特蕾西： 但我想說的是，用同樣的類比來看——我們依然珍視人類。我們有奧運(yùn)會(huì)，冬奧會(huì)就要來了。我們知道很多動(dòng)物和技術(shù)在許多領(lǐng)域都能超越人類表現(xiàn)，但我們?nèi)匀环浅Ｏ硎苣切┯?xùn)練和成長的人類運(yùn)動(dòng)員所展現(xiàn)的人性，即使他們的成績(jī)不如技術(shù)。

我只是想知道，我們是否會(huì)自然而然地將這種態(tài)度延伸到思維領(lǐng)域和文字領(lǐng)域。因?yàn)槭旰竽闳匀粫?huì)是一個(gè)非?；钴S和成功的作家，沒問題。因?yàn)槲視?huì)比AI寫的書更珍視你寫的書。

尤瓦爾·赫拉利： 即使AI能比我提出更好的新想法——比如說你想投資，你去問一個(gè)人類顧問，他給出某些建議，你可以對(duì)他/她產(chǎn)生共情，因?yàn)樗?她有自己的人生經(jīng)歷等等。然后你還有一個(gè)AI金融顧問，零人生經(jīng)歷，零情感，但給出更好的財(cái)務(wù)建議。你會(huì)聽哪一個(gè)？

你看，我們總是有這種……我認(rèn)為最大的錯(cuò)誤——這也是我一開始就強(qiáng)調(diào)"代理人"概念的原因——我們總覺得可以把這些東西當(dāng)工具來用。但如果它們能思考，它們就是代理人。

也許我講一個(gè)中世紀(jì)的故事吧——盎格魯-撒克遜人是如何占領(lǐng)不列顛的。這個(gè)故事半是神話，半是歷史。當(dāng)初住在那里的不列顛人正在和北方來犯的皮克特人、蘇格蘭人作戰(zhàn)，但不列顛人打仗不太行。

于是不列顛國王沃蒂根說："我有一個(gè)主意。我聽說德國和斯堪的納維亞那邊的人真的很能打。不如請(qǐng)一些盎格魯-撒克遜雇傭兵過來，替我們打仗。"

沃蒂根把盎格魯-撒克遜雇傭兵請(qǐng)了過來，他們確實(shí)打得很好，打敗了蘇格蘭人和皮克特人。但之后，盎格魯-撒克遜人對(duì)自己說："這個(gè)國家真富裕，這些人真弱小，這些人又不團(tuán)結(jié)，我們可以直接占了。" 于是他們就奪了權(quán)。

我們對(duì)人類雇傭兵能理解這一點(diǎn)。我們明白當(dāng)你雇傭人類雇傭兵時(shí)——好吧，你付錢給他們，但他們有自己的想法，也許會(huì)叛變。但對(duì)AI，我們完全沒有這種警覺。

看看世界各國的領(lǐng)導(dǎo)人，他們想的是："哦，我讓AI替我打仗。"AI可能直接從你手中奪權(quán)這個(gè)念頭，根本沒有真正進(jìn)入他們的腦海。 他們不真正接受AI能思考這件事。而這才是根本性的不同。

讓人類繼續(xù)思考的挑戰(zhàn)

艾琳·特蕾西： 那讓我反過來說——你是我們牛津的校友，我們?yōu)榇烁械阶院?，雖然你現(xiàn)在跑去劍橋了。對(duì)教育界來說，挑戰(zhàn)在于——這實(shí)際上是圖靈問題的反面。圖靈問的是計(jì)算機(jī)能否思考——如果你愿意的話，那可以說是人工智能的誕生地。但我認(rèn)為我們?cè)趯W(xué)術(shù)界現(xiàn)在提出的問題是：我們?nèi)绾巫屓祟惱^續(xù)思考？ 因?yàn)槿绻覀冊(cè)絹碓蕉嗟匕褯Q策——財(cái)務(wù)決策或其他什么——交給AI，我們面臨的擔(dān)憂就是人類大腦批判性思維能力的退化。我們?cè)诘轿覀冞@里來的學(xué)生身上已經(jīng)看到了這一點(diǎn)——學(xué)校系統(tǒng)過度使用ChatGPT。

那么你對(duì)我這個(gè)學(xué)術(shù)界人士有什么建議？我們?nèi)祟惾绾螆?jiān)持下去，繼續(xù)思考，從而至少保持一定的能力與這些技術(shù)并肩生活？

尤瓦爾·赫拉利： 在目前這個(gè)時(shí)刻，我們?nèi)匀凰伎嫉酶?。所以目前的策略是告訴人們：你需要批判性思維，你需要道德判斷，這些你從AI那里得不到。但我們需要為那一天做準(zhǔn)備——當(dāng)這些也不再成立的時(shí)候。

當(dāng)AI超越人類理解力

我們需要為這樣的時(shí)刻做準(zhǔn)備——比如說在經(jīng)濟(jì)學(xué)或金融領(lǐng)域——當(dāng)AI創(chuàng)造出一個(gè)全新的金融體系，一個(gè)它們理解但我們不理解的體系。在一個(gè)人類真的無法理解金融運(yùn)作方式的世界里，你怎么培訓(xùn)經(jīng)濟(jì)學(xué)家或政治家？因?yàn)锳I已經(jīng)創(chuàng)建了這個(gè)超級(jí)復(fù)雜的金融體系。

我們就像馬——馬可以看到自己被一個(gè)人類賣給另一個(gè)人類，換來幾枚閃亮的金幣。但它們無法理解"錢"這個(gè)概念——太復(fù)雜了。

十年后，我們可能處于同樣的境地。 十年后的達(dá)沃斯，也許在場(chǎng)的沒有一個(gè)人——沒有一個(gè)人類——還能理解金融體系了，因?yàn)樗籄I主宰，而AI創(chuàng)造了新的金融策略和工具，在數(shù)學(xué)上超出了人類大腦的能力。那么在一個(gè)沒有人類能理解金融的世界里，政治、金融和達(dá)沃斯會(huì)變成什么樣？

艾琳·特蕾西： 嗯，這是一個(gè)很好的結(jié)束語。我們時(shí)間到了。還有很多可以探討的問題。其中一個(gè)是：我們知道人工智能和人類智能之間的一個(gè)重大差異——人類大腦從出生到成年（大約20歲），是生命體驗(yàn)的產(chǎn)物——感受、愛、憤怒，這些情感。雖然你可以用感官探測(cè)器做一些嘗試，可以訓(xùn)練大腦做到這些，但那是根本不同的。所以人工大腦不是人類大腦。它不是人類的。在那里也許仍然有某種價(jià)值——回歸到作為一個(gè)有感知能力的人類的核心存在，它為我們的理解帶來的價(jià)值。

最后一個(gè)評(píng)論：想想在這樣一個(gè)世界里教育孩子——從出生第一天起，也許新生兒的大部分互動(dòng)對(duì)象不是人類，而是AI。這是歷史上最大的、也是最可怕的心理學(xué)實(shí)驗(yàn)，而我們正在進(jìn)行它。

尤瓦爾·赫拉利： 確實(shí)如此。

艾琳·特蕾西： 好吧，尤瓦爾，非常感謝你。我很高興你在思考這些問題，也讓我們今天下午都開始思考。我期待你也許十年后回到達(dá)沃斯，回顧這場(chǎng)對(duì)話，看看我們走到了哪里。但感謝在座的所有觀眾，無論是線上的還是在場(chǎng)的。謝謝大家，讓我們?yōu)楹绽壬恼啤?/p>

References

[1] WEF官方頁面: https://www.weforum.org/meetings/world-economic-forum-annual-meeting-2026/sessions/an-honest-conversation-on-ai-and-humanity-ca19ea8c96/
[2] 完整英文文字稿: https://singjupost.com/yuval-noah-hararis-remarks-wef-davos-2026-transcript/