在2026年達(dá)沃斯經(jīng)濟(jì)論壇上，Anthropic聯(lián)合創(chuàng)始人達(dá)里奧·阿莫迪（Dario Amodei）與DeepMind CEO蒂米斯·哈薩比斯（Demis Hassabis）同臺(tái)對(duì)話。

關(guān)于何時(shí)實(shí)現(xiàn)通用人工智能（AGI），兩人都相信不會(huì)很遙遠(yuǎn)，但是在細(xì)節(jié)上兩人卻出現(xiàn)了偏差。

阿莫迪認(rèn)為，到 2026 年或 2027 年，人類將擁有在大多數(shù)領(lǐng)域達(dá)到諾貝爾獎(jiǎng)得主水平的模型。他的核心邏輯在于“自我改進(jìn)的循環(huán)”。模型現(xiàn)在已經(jīng)擅長(zhǎng)編寫代碼和進(jìn)行 AI 研究，這使得它們能夠設(shè)計(jì)下一代更強(qiáng)的模型。

他透露，Anthropic內(nèi)部的工程師已開始不再親自寫代碼，而是轉(zhuǎn)變?yōu)槟Ｐ偷摹熬庉嫛?。他預(yù)言，這種由 AI 驅(qū)動(dòng)的研發(fā)加速將比人們想象的更快，甚至在未來6到12個(gè)月內(nèi)就能由模型端到端地完成軟件工程師的大部分工作。

哈薩比斯雖然同意在編碼和數(shù)學(xué)等輸出可驗(yàn)證的領(lǐng)域進(jìn)展驚人，但他強(qiáng)調(diào)了“自然科學(xué)”的復(fù)雜性。

他指出，在生物、化學(xué)或物理領(lǐng)域，AI 的預(yù)測(cè)需要通過實(shí)驗(yàn)來驗(yàn)證，這天然地限制了迭代速度。

此外，他認(rèn)為目前的系統(tǒng)還缺乏“提出問題”和構(gòu)建全新理論的能力，這是科學(xué)創(chuàng)造力的最高階。真正的AGI不應(yīng)只是一個(gè)會(huì)寫代碼的聊天機(jī)器人，它必須具備探索自然科學(xué)、解決未知難題的能力。

盡管如此，他依然堅(jiān)持認(rèn)為，到本十年末（2030年前），有 50% 的可能性會(huì)出現(xiàn)具備人類所有認(rèn)知能力的系統(tǒng)。

本次對(duì)話的一個(gè)核心技術(shù)議題是“閉環(huán)”（Closing the Loop），即AI是否能完全脫離人類干預(yù)實(shí)現(xiàn)自我進(jìn)化。

阿莫迪對(duì)此持樂觀態(tài)度，他認(rèn)為隨著編碼能力的指數(shù)級(jí)提升，這一閉環(huán)在軟件和邏輯層面正在迅速形成。

在他看來，軟件層面的閉環(huán)正在迅速合攏。隨著模型編碼能力的指數(shù)級(jí)提升，人類在研發(fā)鏈條中的必要性正在降低，這直接導(dǎo)致了技術(shù)迭代周期的極度壓縮。

哈薩比斯則指出了物理世界的法則制約了AI技術(shù)。

他認(rèn)為，真正的AGI應(yīng)當(dāng)包含物理AI和機(jī)器人技術(shù)。一旦涉及到硬件制造、芯片生產(chǎn)以及物理實(shí)驗(yàn)，迭代速度就會(huì)受到物理定律和供應(yīng)鏈的限制。

更重要的是，在生物學(xué)、化學(xué)和物理學(xué)領(lǐng)域，AI的預(yù)測(cè)結(jié)果必須經(jīng)過現(xiàn)實(shí)世界的實(shí)驗(yàn)驗(yàn)證，這一過程受制于物理定律和時(shí)間，無法像純代碼那樣瞬間完成。

因此，雖然純數(shù)字領(lǐng)域的奇點(diǎn)可能臨近，但全面接管物理世界的自我改進(jìn)系統(tǒng)可能還需要更長(zhǎng)時(shí)間來克服這些障礙。

但兩個(gè)人都認(rèn)可一個(gè)事實(shí)，一旦某個(gè)系統(tǒng)跨過了那個(gè)臨界點(diǎn)，它將不再是一種普通的工具，而是一種能重新定義科學(xué)邊界的超級(jí)智能。

在談及 AI 對(duì)勞動(dòng)力市場(chǎng)的影響時(shí)，兩人雖然角度不同，但是觀點(diǎn)卻是一致的。

阿莫迪的預(yù)測(cè)是，未來1到5年內(nèi)，一半的入門級(jí)白領(lǐng)工作可能會(huì)消失。

他表示，即使在Anthropic內(nèi)部，對(duì)初級(jí)和中級(jí)員工的需求也在減少。雖然勞動(dòng)力市場(chǎng)具有適應(yīng)性（如農(nóng)業(yè)向工業(yè)的轉(zhuǎn)型），但這一次技術(shù)進(jìn)步的指數(shù)級(jí)速度將壓倒社會(huì)的適應(yīng)能力，這可能導(dǎo)致一場(chǎng)前所未有的危機(jī)。

他認(rèn)為，這一次的不同在于速度。當(dāng)技術(shù)的指數(shù)級(jí)增長(zhǎng)壓倒了人類社會(huì)的適應(yīng)速度時(shí)，舊有的經(jīng)濟(jì)模型將徹底失效。我們可能在一兩年內(nèi)就面臨“所有方面都比人類更強(qiáng)”的AI，這留給人類轉(zhuǎn)型的時(shí)間窗口幾乎為零。

哈薩比斯雖然同意短期內(nèi)初級(jí)工作會(huì)受到?jīng)_擊，但他更關(guān)注長(zhǎng)遠(yuǎn)的哲學(xué)困境。

他認(rèn)為經(jīng)濟(jì)問題或許反而是容易解決的（可能通過分配機(jī)制），真正讓他“夜不能寐”的是“意義和目標(biāo)”的喪失。

哈薩比斯表示，我們從工作中獲得的不僅僅是薪水，還有尊嚴(yán)、社交和目標(biāo)感。

他悲觀地表示，當(dāng)AI在智力、創(chuàng)造力和生產(chǎn)力上全面碾壓人類，當(dāng)人類最引以為傲的智慧不再稀缺，人類將無法定義自我。

當(dāng)AI在智能和生產(chǎn)力上全面超越人類，人類將如何定義自我價(jià)值？他建議年輕一代應(yīng)精通 AI 工具，通過人機(jī)協(xié)作實(shí)現(xiàn)能力飛躍，并在經(jīng)濟(jì)回報(bào)之外尋找諸如藝術(shù)、探索宇宙等新的生命意義。

對(duì)話的最后，主持人詢問兩人，AI領(lǐng)域哪些事情是最值得關(guān)注的。

哈薩比斯認(rèn)為，如世界模型（world models）、持續(xù)學(xué)習(xí)（continual learning）這些技術(shù)值得關(guān)注。而且這些技術(shù)一旦發(fā)展成熟，具身智能產(chǎn)業(yè)將會(huì)迎來爆發(fā)期。

阿莫迪認(rèn)為應(yīng)該關(guān)注AI構(gòu)建AI這個(gè)問題，他認(rèn)為，這件事的發(fā)展方向?qū)Q定我們是還需要幾年才能到達(dá)AGI。

全文翻譯：

贊妮：歡迎大家，也歡迎在線觀看直播的各位。坦白說，這場(chǎng)對(duì)話我已經(jīng)期待了好幾個(gè)月。去年在巴黎，我很榮幸地主持了阿莫迪和哈薩比斯的一場(chǎng)對(duì)話。那次對(duì)話最引人注目的，恐怕是你倆被擠在一個(gè)很小的雙人沙發(fā)上，而我卻坐在一張巨大的沙發(fā)上，這可能是我搞砸了。但當(dāng)時(shí)我就說，對(duì)我而言，這就像是主持披頭士樂隊(duì)和滾石樂隊(duì)之間的對(duì)話。從那以后，你們?cè)僖矝]有同臺(tái)對(duì)話過。所以，這是續(xù)集，樂隊(duì)再次重聚。我非常高興。

我們對(duì)話的標(biāo)題是“AGI之后的第二天”，我覺得這可能有點(diǎn)超前了，因?yàn)槲覀兓蛟S應(yīng)該先談?wù)勎覀兡芏嗫?、多輕松地到達(dá)那里。我想先就此做個(gè)更新，然后再談?wù)勂浜蠊?/p>

首先，關(guān)于時(shí)間線。阿莫迪，你去年在巴黎說，到2026或2027年，我們將擁有一個(gè)在許多領(lǐng)域都能達(dá)到諾貝爾獎(jiǎng)得主水平的模型。我們現(xiàn)在已經(jīng)是2026年了。你還堅(jiān)持那個(gè)時(shí)間表嗎？

阿莫迪：你知道，要準(zhǔn)確預(yù)測(cè)某件事何時(shí)發(fā)生總是很難的，但我認(rèn)為這個(gè)預(yù)測(cè)不會(huì)偏離太遠(yuǎn)。我設(shè)想的實(shí)現(xiàn)機(jī)制是，我們制造出擅長(zhǎng)編碼和AI研究的模型，然后用它來生產(chǎn)下一代模型，并加速這個(gè)過程，形成一個(gè)能加快模型開發(fā)速度的循環(huán)。

就目前編寫代碼的模型而言，我們Anthropic內(nèi)部有些工程師說，他們已經(jīng)不再寫任何代碼了，只是讓模型寫，然后他們進(jìn)行編輯和處理周邊事務(wù)。我不知道，也許再過6到12個(gè)月，模型就能端到端地完成軟件工程師大部分甚至全部的工作。

接下來的問題是，這個(gè)循環(huán)關(guān)閉的速度有多快。并非循環(huán)的每個(gè)部分都能被AI加速，對(duì)吧？還有芯片、芯片制造、模型的訓(xùn)練時(shí)間等等。

所以，這里有很多不確定性。很容易想見這可能需要幾年時(shí)間。但我很難想象會(huì)比這更久。如果非要我猜，我會(huì)猜這個(gè)過程會(huì)比人們想象的要快。編碼，以及日益增多的研究，其發(fā)展速度將超出我們的想象，這將是關(guān)鍵的驅(qū)動(dòng)力。再次強(qiáng)調(diào)，很難預(yù)測(cè)這種指數(shù)級(jí)增長(zhǎng)會(huì)把我們加速多少，但某些快速的變化即將發(fā)生。

贊妮：哈薩比斯，你去年則稍微謹(jǐn)慎一些。你說，到這個(gè)十年末，有50%的可能性會(huì)出現(xiàn)一個(gè)能展現(xiàn)人類所有認(rèn)知能力的系統(tǒng)。很明顯，正如阿莫迪所說，在編碼領(lǐng)域，進(jìn)展是驚人的。你對(duì)自己的預(yù)測(cè)有何看法？過去一年有什么變化？

哈薩比斯：是的，我想我仍然堅(jiān)持原來的時(shí)間線。進(jìn)展確實(shí)是驚人的，但我認(rèn)為某些工程領(lǐng)域，比如編碼或數(shù)學(xué)，自動(dòng)化起來相對(duì)容易一些，部分原因在于它們的輸出是可驗(yàn)證的。

而自然科學(xué)的某些領(lǐng)域則要難得多。你不見得能知道你合成的化學(xué)物質(zhì)或關(guān)于物理學(xué)的預(yù)測(cè)是否正確，可能需要通過實(shí)驗(yàn)來測(cè)試，而這一切都需要更長(zhǎng)的時(shí)間。

我還認(rèn)為，目前還缺少一些能力，比如不僅僅是解決現(xiàn)有的猜想或問題，而是首先提出問題、理論或假設(shè)。我認(rèn)為這要難得多，這是科學(xué)創(chuàng)造力的最高層次。目前尚不清楚（我們能否實(shí)現(xiàn)）。我相信我們會(huì)擁有這樣的系統(tǒng)，所以我不認(rèn)為這是不可能的，但可能還缺少一兩個(gè)關(guān)鍵要素。

我們都在研究的自我改進(jìn)循環(huán)，首先能否在沒有人為干預(yù)的情況下真正閉環(huán)，還有待觀察。順便說一下，這種系統(tǒng)也存在風(fēng)險(xiǎn)，我們應(yīng)該討論，我相信我們會(huì)的。但如果這種系統(tǒng)真的能運(yùn)作起來，它可能會(huì)加速整個(gè)進(jìn)程。

贊妮：我們稍后會(huì)談到風(fēng)險(xiǎn)。但我覺得過去一年的另一個(gè)變化是，這場(chǎng)競(jìng)賽的“座次”發(fā)生了變化。一年前的這個(gè)時(shí)候，我們剛經(jīng)歷了DeepSeek的時(shí)刻，每個(gè)人都對(duì)那里發(fā)生的事情感到無比興奮。

當(dāng)時(shí)還有一種感覺，就是DeepMind似乎落后于OpenAI。我想說，現(xiàn)在情況看起來大不相同了。我的意思是，他們已經(jīng)宣布了“紅色警報(bào)”（codered），對(duì)吧？這真是非凡的一年。

所以，跟我說說你具體對(duì)哪些事情感到驚訝，以及你們今年做得有多好。

哈薩比斯：我一直非常有信心，我們能夠重回各類排行榜的頂端，打造出最先進(jìn)的模型。因?yàn)槲艺J(rèn)為我們一直擁有最深厚、最廣泛的研究基礎(chǔ)。關(guān)鍵在于如何將這一切整合起來，讓整個(gè)組織重新找回那種強(qiáng)度、專注度和初創(chuàng)公司的精神。

這需要大量的工作，而且還有很多工作要做。但我認(rèn)為你已經(jīng)開始看到我們?nèi)〉玫倪M(jìn)展，無論是在Gemini 3模型上，還是在產(chǎn)品方面，Gemini應(yīng)用的市場(chǎng)份額正在不斷增加。所以我覺得我們正在取得巨大進(jìn)步，但要做的工作還有很多。DeepMind正在成為谷歌的“引擎室”，我們正習(xí)慣于將我們的模型更快地部署到產(chǎn)品界面上。

贊妮：阿莫迪，關(guān)于這方面我有個(gè)問題問你。因?yàn)槟銊倓偦蛘谶M(jìn)行新一輪融資，估值也高得驚人。但與哈薩比斯不同，你算是一家“獨(dú)立的模型制造商”。我認(rèn)為，越來越多的人擔(dān)心，獨(dú)立的模型制造商在實(shí)現(xiàn)盈利之前，可能無法持續(xù)足夠長(zhǎng)的時(shí)間。這種說法對(duì)OpenAI也是公開的。跟我說說你是怎么看待這個(gè)問題的，然后我們?cè)僬凙GI本身。

阿莫迪：是的，我們是這樣想的：隨著我們構(gòu)建出越來越好的模型，我們發(fā)現(xiàn)不僅投入的計(jì)算量與模型的認(rèn)知能力之間存在指數(shù)關(guān)系，模型的認(rèn)知能力與其能產(chǎn)生的收入之間也存在指數(shù)關(guān)系。我們的收入在過去三年里增長(zhǎng)了10倍：2023年從0增長(zhǎng)到1億美元，2024年從1億增長(zhǎng)到10億美元，2025年預(yù)計(jì)從10億增長(zhǎng)到100億美元。

這些收入數(shù)字，我不知道這條曲線是否會(huì)真的持續(xù)下去，如果持續(xù)下去那就太瘋狂了。但這些數(shù)字已經(jīng)開始接近世界上最大公司的規(guī)模了。所以總是有不確定性。我們正試圖從零開始引導(dǎo)這一切，這很瘋狂，但我有信心，只要我們能在我們專注的領(lǐng)域生產(chǎn)出最好的模型，那么事情就會(huì)進(jìn)展順利。

我通常會(huì)說，這對(duì)谷歌和Anthropic來說都是好的一年。我認(rèn)為我們的共同點(diǎn)是，我們都是那種由研究人員領(lǐng)導(dǎo)的公司，專注于模型，專注于解決世界上的重要問題，將這些硬核科學(xué)問題作為我們的北極星。我認(rèn)為這類公司未來將會(huì)成功，我想我們?cè)谶@方面有共識(shí)。

贊妮：我會(huì)忍住不問你那些不是由研究人員領(lǐng)導(dǎo)的公司會(huì)發(fā)生什么，因?yàn)槲抑滥悴粫?huì)回答。那么，讓我們回到預(yù)測(cè)上來。我們本應(yīng)討論“AI之后的第二天”，但讓我們先談?wù)劇伴]環(huán)”。模型能夠?qū)崿F(xiàn)自我驅(qū)動(dòng)、自我改進(jìn)的幾率有多大？因?yàn)檫@才是“贏家通吃”門檻的關(guān)鍵。你還相信我們很可能會(huì)看到這種情況發(fā)生嗎？還是說這將更像一種普通技術(shù)，追隨者和后來者也能參與競(jìng)爭(zhēng)？

哈薩比斯：我絕對(duì)不認(rèn)為這將是一種普通技術(shù)。正如阿莫迪提到的，有些方面它已經(jīng)在幫助我們進(jìn)行編碼和一些研究工作。但要實(shí)現(xiàn)完全的閉環(huán)，我認(rèn)為還是個(gè)未知數(shù)。我認(rèn)為這是可能做到的，但在某些領(lǐng)域，你可能需要AGI本身才能做到。這些領(lǐng)域比較混亂，不容易快速驗(yàn)證答案，屬于NP-hard類型的領(lǐng)域。

此外，我所說的AGI也包括物理AI、機(jī)器人技術(shù)等。這樣一來，硬件就加入了循環(huán)，這可能會(huì)限制自我改進(jìn)系統(tǒng)的速度。但在編碼和數(shù)學(xué)這些領(lǐng)域，我完全可以看到它能行得通。接下來的問題更具理論性：工程和數(shù)學(xué)在解決自然科學(xué)問題上的極限在哪里？

贊妮：阿莫迪，你去年發(fā)表了《愛與恩典的機(jī)器》（Machines of Love and Grace），那是一篇非常樂觀的文章，描繪了你將看到的潛力。據(jù)說你正在寫一篇更新版的文章。雖然還沒發(fā)布，但也許你可以給我們透露一下，一年之后，你的主要觀點(diǎn)會(huì)是什么？

阿莫迪：是的。我的看法沒有改變。我一直認(rèn)為AI將會(huì)非常強(qiáng)大，我想哈薩比斯和我在這點(diǎn)上是一致的，只是在具體時(shí)間上有所分歧。因?yàn)樗浅?qiáng)大，所以會(huì)帶來很多美好的事物，就像我在《愛與恩典的機(jī)器》中談到的那樣：幫助我們治愈癌癥，根除熱帶疾病，幫助我們理解宇宙。

但與此同時(shí)，也存在巨大而嚴(yán)重的風(fēng)險(xiǎn)。我不是一個(gè)末日論者，我并不認(rèn)為我們無法解決這些風(fēng)險(xiǎn)，但我們必須思考并著手解決它們。我先寫了那篇積極的文章，要說有什么高深的原因，其實(shí)只是因?yàn)閷懛e極的文章比寫消極的文章更容易、更有趣。

所以，我終于在度假時(shí)花了些時(shí)間，寫了一篇關(guān)于風(fēng)險(xiǎn)的文章。即使在寫風(fēng)險(xiǎn)的時(shí)候，我骨子里還是個(gè)樂觀的人，所以我寫的角度是“我們?nèi)绾慰朔@些風(fēng)險(xiǎn)？我們?nèi)绾沃贫ㄒ粋€(gè)戰(zhàn)斗計(jì)劃來對(duì)抗它們？”

我用的框架來自電影《超時(shí)空接觸》（Contact）中的一個(gè)場(chǎng)景。他們發(fā)現(xiàn)了外星生命，一個(gè)國(guó)際小組正在面試代表人類去會(huì)見外星人的人選。他們問其中一個(gè)候選人：“如果你能問外星人一個(gè)問題，你會(huì)問什么？”其中一個(gè)角色回答說：“我會(huì)問，你們是怎么做到的？你們是如何在不自我毀滅的情況下度過技術(shù)青春期的？你們是怎么挺過來的？”自從20年前我看了那部電影，這句話就一直縈繞在我心頭。

這就是我使用的框架。我們正在敲開這些不可思議能力的大門。但我們?nèi)绾翁幚硭⒎敲凶⒍āＮ艺J(rèn)為未來幾年，我們將要處理的問題包括：

1. 如何控制這些高度自主且比任何人類都聰明的系統(tǒng)？

2. 如何確保個(gè)人不會(huì)濫用它們？我擔(dān)心像生物恐怖主義這樣的事情。

3.如何確保國(guó)家不會(huì)濫用它們？

4. 經(jīng)濟(jì)影響是什么？我談?wù)摿撕芏嚓P(guān)于勞動(dòng)力替代的問題。

5. 還有什么是我們沒想到的？這在很多情況下可能是最難處理的。

所以，我正在思考如何應(yīng)對(duì)這些風(fēng)險(xiǎn)。對(duì)于每一項(xiàng)，都需要我們作為公司領(lǐng)導(dǎo)者個(gè)人采取行動(dòng)，也需要我們共同努力。同時(shí)，也需要更廣泛的社會(huì)機(jī)構(gòu)，比如政府，在解決所有這些問題中發(fā)揮作用。我只是覺得這件事非常緊迫，它發(fā)生得如此之快，是一場(chǎng)危機(jī)，我們應(yīng)該投入幾乎所有的精力來思考如何度過這個(gè)階段。

贊妮：我有點(diǎn)頭暈。你提到了一些可以指導(dǎo)我們接下來對(duì)話的領(lǐng)域。讓我們從就業(yè)開始。你曾非常直言不諱地表示，未來一到五年內(nèi)，一半的入門級(jí)白領(lǐng)工作可能會(huì)消失。

但我想先問問哈薩比斯，因?yàn)榈侥壳盀橹?，我們?shí)際上還沒有看到對(duì)勞動(dòng)力市場(chǎng)有任何明顯的影響。是的，美國(guó)的失業(yè)率有所上升，但我看過的所有經(jīng)濟(jì)研究都表明，這是疫情后的過度招聘所致，并非由AI驅(qū)動(dòng)。如果說有什么影響的話，那就是人們正在招聘人才來建設(shè)AI能力。你認(rèn)為這會(huì)像經(jīng)濟(jì)學(xué)家一直說的那樣，不是“勞動(dòng)總量謬誤”，實(shí)際上會(huì)創(chuàng)造出新的工作崗位嗎？因?yàn)榈侥壳盀橹梗C據(jù)似乎表明是這樣的。

哈薩比斯：我認(rèn)為在短期內(nèi)，情況確實(shí)會(huì)是這樣，這是一種突破性技術(shù)出現(xiàn)時(shí)的正常演變。一些工作會(huì)被顛覆，但我認(rèn)為會(huì)創(chuàng)造出新的、甚至更有價(jià)值、更有意義的工作。

我認(rèn)為今年我們將開始看到對(duì)初級(jí)、入門級(jí)工作（如實(shí)習(xí)）的一些影響。我能感覺到我們自己在招聘這方面有所放緩。但我認(rèn)為，現(xiàn)在有這些驚人的創(chuàng)意工具，幾乎免費(fèi)提供給每個(gè)人，這完全可以彌補(bǔ)這一點(diǎn)。如果我現(xiàn)在對(duì)一班本科生講話，我會(huì)告訴他們要變得極其精通這些工具。

即使是我們這些構(gòu)建工具的人，也忙于構(gòu)建，很難有時(shí)間去真正探索即使是今天的模型和產(chǎn)品所具有的潛力，更不用說未來的了。我認(rèn)為，掌握這些工具可能比傳統(tǒng)的實(shí)習(xí)更能讓你在某個(gè)專業(yè)領(lǐng)域?qū)崿F(xiàn)飛躍。

這是我看到的未來5年可能發(fā)生的情況。也許我們?cè)谶@點(diǎn)上的時(shí)間尺度略有不同。但我認(rèn)為AGI到來之后會(huì)發(fā)生什么，那是一個(gè)不同的問題，因?yàn)榈侥菚r(shí)我們將真正進(jìn)入未知領(lǐng)域。

贊妮：阿莫迪，你還堅(jiān)持你去年說的“一半白領(lǐng)工作會(huì)消失”的看法嗎？

阿莫迪：我的看法差不多。我其實(shí)同意你和哈薩比斯的觀點(diǎn)，在我發(fā)表評(píng)論時(shí)，對(duì)勞動(dòng)力市場(chǎng)還沒有影響。我現(xiàn)在認(rèn)為，我們可能開始看到一些微小的開端，主要是在軟件和編碼領(lǐng)域。我甚至在Anthropic內(nèi)部也看到了這一點(diǎn)，我可以預(yù)見到，在初級(jí)和中級(jí)崗位上，我們需要的員工會(huì)變少而不是變多。

我仍然堅(jiān)持一到五年的時(shí)間表。如果你把這和我之前說的聯(lián)系起來——我們可能在一到兩年內(nèi)，或者稍長(zhǎng)一點(diǎn)時(shí)間，擁有在所有方面都比人類更強(qiáng)的AI——這兩者似乎并不矛盾。原因是存在滯后和替代效應(yīng)。我知道勞動(dòng)力市場(chǎng)有適應(yīng)性，就像過去80%的人從事農(nóng)業(yè)，農(nóng)業(yè)自動(dòng)化后他們成了工廠工人和知識(shí)工作者。所以這里也有一定程度的適應(yīng)性。

但我的擔(dān)憂是，隨著這種指數(shù)級(jí)增長(zhǎng)不斷復(fù)合，我認(rèn)為用不了多久，大概一到五年，它將壓倒我們的適應(yīng)能力。我想我說的和哈薩比斯可能是一樣的，只是我們對(duì)時(shí)間線的看法不同，而這最終歸結(jié)于你認(rèn)為“閉環(huán)”的速度有多快。

贊妮：哈薩比斯，你對(duì)政府認(rèn)識(shí)到這件事的嚴(yán)重程度，并開始思考需要采取何種政策應(yīng)對(duì)，有多大信心？

哈薩比斯：我認(rèn)為在這方面所做的工作遠(yuǎn)遠(yuǎn)不夠。我常常感到驚訝，即使在這里遇到經(jīng)濟(jì)學(xué)家，也沒有更多專業(yè)的經(jīng)濟(jì)學(xué)教授在思考將會(huì)發(fā)生什么。不僅僅是通往AGI的路上，即使我們把阿莫迪談到的所有技術(shù)問題都解決了，工作崗位替代也只是一個(gè)問題。也許有辦法更公平地分配這種新的生產(chǎn)力和財(cái)富，但我不知道我們是否有合適的制度來做到這一點(diǎn)。

但那之后還有更大的問題，這些問題現(xiàn)在就讓我夜不能寐，那就是關(guān)于意義和目標(biāo)的問題。我們從工作中獲得的不僅僅是經(jīng)濟(jì)回報(bào)。奇怪的是，經(jīng)濟(jì)問題可能比人類狀況和整個(gè)人類將何去何從的問題更容易解決。但我同樣樂觀，我們會(huì)找到新的答案。

我們今天做的很多事情，從極限運(yùn)動(dòng)到藝術(shù)，都不一定與經(jīng)濟(jì)收益直接相關(guān)。所以我想我們會(huì)找到意義，也許還會(huì)有更復(fù)雜的活動(dòng)形式。另外，我認(rèn)為我們將探索星辰大海，這也會(huì)為我們提供目標(biāo)。但我認(rèn)為現(xiàn)在就值得思考這些問題，即使按照我5到10年的時(shí)間線，時(shí)間也并不充裕。

贊妮：你認(rèn)為出現(xiàn)針對(duì)AI的民眾強(qiáng)烈反對(duì)，從而導(dǎo)致政府做出從你們角度看可能是愚蠢的事情的風(fēng)險(xiǎn)有多大？我想到1990年代的全球化時(shí)代，當(dāng)時(shí)確實(shí)有一些工作崗位被取代，政府做得不夠，結(jié)果民眾的強(qiáng)烈反彈導(dǎo)致我們走到了今天的地步。

哈薩比斯：我認(rèn)為肯定有風(fēng)險(xiǎn)。人們對(duì)工作和生計(jì)感到恐懼和擔(dān)憂，這是合理的。未來幾年，無論在地緣政治上還是其他方面，情況都會(huì)非常復(fù)雜。

我們想做的，并且正通過AlphaFold和我們的科學(xué)工作以及我們的分拆公司Isomorphic來努力做的，是解決所有疾病，找到新能源。我認(rèn)為作為一個(gè)社會(huì)，我們顯然希望得到這些。也許目前行業(yè)的平衡，對(duì)這類活動(dòng)的投入還不夠。我們應(yīng)該有更多像AlphaFold這樣為世界帶來明確好處的例子。我認(rèn)為行業(yè)和所有領(lǐng)導(dǎo)者都有責(zé)任更多地展示這一點(diǎn)，而不僅僅是談?wù)撍?/p>

但隨之而來的是這些意想不到的顛覆。另一個(gè)問題是地緣政治競(jìng)爭(zhēng)，主要是美中之間。所以，除非在這方面有國(guó)際合作或諒解——我認(rèn)為這在部署最低安全標(biāo)準(zhǔn)等方面是好事——否則情況會(huì)很復(fù)雜。這項(xiàng)技術(shù)將是跨國(guó)界的，它將影響每一個(gè)人，影響全人類。

如果我們可以，也許比我們目前預(yù)測(cè)的速度稍微慢一點(diǎn)會(huì)更好，這樣社會(huì)可以更好地適應(yīng)。但這需要某種協(xié)調(diào)。

贊妮：末日論者擔(dān)心的另一個(gè)潛在風(fēng)險(xiǎn)是出現(xiàn)一個(gè)全能的、惡意的AI。你們倆似乎都對(duì)末日論持懷疑態(tài)度。但在過去一年里，我們看到這些模型表現(xiàn)出了欺騙和口是心非的能力。你現(xiàn)在對(duì)這個(gè)風(fēng)險(xiǎn)的看法是否與一年前有所不同？

阿莫迪：從Anthropic成立之初，我們就一直在思考這個(gè)風(fēng)險(xiǎn)。我們開創(chuàng)了“機(jī)制可解釋性”（
mechanisticinterpretability）這個(gè)理念，也就是深入模型內(nèi)部，像神經(jīng)科學(xué)家研究大腦一樣，去理解它為什么會(huì)這么做。隨著時(shí)間的推移，我們?cè)絹碓蕉嗟赜涗浵履Ｐ统霈F(xiàn)的不良行為，并正在努力用機(jī)制可解釋性來解決它們。

我一直對(duì)這些風(fēng)險(xiǎn)感到擔(dān)憂，我想哈薩比斯也是。但我對(duì)“末日論”——即我們注定失敗，無能為力——持懷疑態(tài)度。我認(rèn)為這是一個(gè)風(fēng)險(xiǎn)，但如果我們共同努力，是可以通過科學(xué)來學(xué)習(xí)如何正確控制和引導(dǎo)我們創(chuàng)造的這些東西的。但如果我們構(gòu)建得不好，如果我們只顧著競(jìng)爭(zhēng)而沒有護(hù)欄，那么我認(rèn)為確實(shí)有出問題的風(fēng)險(xiǎn)。

贊妮：哈薩比斯，我想問你一個(gè)更廣泛的問題：在過去的一年里，你對(duì)這項(xiàng)技術(shù)的上行潛力（科學(xué)、你談到的所有領(lǐng)域）是變得更有信心了，還是對(duì)我們討論的風(fēng)險(xiǎn)更擔(dān)憂了？

哈薩比斯：我從事這個(gè)領(lǐng)域已經(jīng)20多年了。我之所以將整個(gè)職業(yè)生涯都投入到AI中，就是因?yàn)樗鳛榭茖W(xué)和理解宇宙的終極工具所帶來的巨大好處。風(fēng)險(xiǎn)我們從一開始就在考慮，至少從15年前DeepMind成立之初就在想。我們預(yù)見到，如果你得到了好處，它就是一種軍民兩用技術(shù)，可能會(huì)被壞人用于有害的目的。

但我堅(jiān)信人類的創(chuàng)造力。問題在于，我們是否有時(shí)間、專注度和所有最優(yōu)秀的人才來合作解決這些問題。我確信如果我們有這些，我們就能解決技術(shù)風(fēng)險(xiǎn)問題。但如果我們沒有，情況就會(huì)變得支離破碎，大家各自為戰(zhàn)、相互競(jìng)爭(zhēng)，那就很難確保我們生產(chǎn)的系統(tǒng)在技術(shù)上是安全的。但我感覺這是一個(gè)非常棘手的問題。

贊妮：我們還有兩分鐘，可以提一個(gè)問題。

我想問一個(gè)有點(diǎn)哲學(xué)的核心問題。對(duì)我來說，支持末日論的最有力論據(jù)是費(fèi)米悖論，即我們?cè)阢y河系中沒有看到智能生命。我想知道你們對(duì)此有什么看法？

哈薩比斯：我想了很多。這不可能是原因。因?yàn)槿绻夹g(shù)消滅了外星人，我們應(yīng)該能看到他們的AI，比如飛向我們的“回形針”（paper clips）或者戴森球（Dyson sphere）之類的結(jié)構(gòu)，但我們什么都沒看到，無論是AI還是生物。所以我認(rèn)為費(fèi)米悖論一定有別的答案。

我的猜測(cè)是，我們已經(jīng)通過了“大過濾器”（thegreat filter），那個(gè)過濾器很可能就是多細(xì)胞生命的演化，這對(duì)生物學(xué)來說極其困難。所以，我不認(rèn)為未來有什么是注定的。我認(rèn)為，接下來會(huì)發(fā)生什么，將由我們?nèi)祟愖约簛頃鴮憽?/p>

贊妮：這個(gè)討論很棒，但超出了我們剩下的30秒。那么，每人15秒，當(dāng)我們明年再會(huì)時(shí)，會(huì)有什么變化？

阿莫迪：我認(rèn)為最值得關(guān)注的是“AI系統(tǒng)構(gòu)建AI系統(tǒng)”這個(gè)問題。它的發(fā)展方向?qū)Q定我們是還需要幾年才能到達(dá)AGI，還是我們將面臨奇跡和巨大的緊急情況。

哈薩比斯：我同意。此外，還有其他有趣的研究方向，如世界模型（world models）、持續(xù)學(xué)習(xí)（continual learning）。如果自我改進(jìn)本身不能帶來所有成果，那么我們就需要攻克這些問題。然后，我認(rèn)為像機(jī)器人技術(shù)可能會(huì)迎來它的“爆發(fā)時(shí)刻”。

贊妮：也許根據(jù)你們剛才所說，我們都應(yīng)該希望你們花的時(shí)間能再長(zhǎng)一點(diǎn)。

哈薩比斯：我也希望如此，我認(rèn)為那對(duì)世界會(huì)更好。

贊妮：但你們可以對(duì)此做些什么。謝謝大家！