2025年12月17日，Google DeepMind播客發(fā)布了本季收官之作。數(shù)學(xué)家Hannah Fry與公司聯(lián)合創(chuàng)始人兼CEO Demis Hassabis進(jìn)行了年度深度對話。這期節(jié)目不談產(chǎn)品發(fā)布，聚焦更根本的問題：AGI還有多遠(yuǎn)？當(dāng)前模型的真正短板是什么？AI泡沫是否存在？以及一個(gè)貫穿Hassabis職業(yè)生涯的哲學(xué)追問——圖靈機(jī)能夠計(jì)算宇宙中的一切嗎？

過去14個(gè)月對Hassabis來說意義非凡。2024年10月，他因AlphaFold獲得諾貝爾化學(xué)獎，成為歷史上罕見的以企業(yè)家身份獲此殊榮的人。一個(gè)月前，Gemini 3發(fā)布，在推理、工具調(diào)用、多模態(tài)等多個(gè)基準(zhǔn)測試中登頂。Gemini應(yīng)用的月活用戶已超過6.5億，通過Search AI Overviews使用Gemini的用戶每月超過20億。近期，DeepMind又宣布與英國政府簽署重大合作協(xié)議，將在2026年開設(shè)首個(gè)AI驅(qū)動的自動化材料研究實(shí)驗(yàn)室。但在這場對話中，這位49歲的AI領(lǐng)袖展現(xiàn)的是另一面——對當(dāng)前系統(tǒng)局限性的清醒認(rèn)知，對AGI路徑的深度思考，以及對一個(gè)自少年時(shí)代就縈繞心頭的問題的執(zhí)著追問。

"感覺我們把十年的事壓縮進(jìn)了一年里。"Hassabis這樣形容過去12個(gè)月。但他隨即話鋒一轉(zhuǎn)，指向了那些尚未解決的根本問題。

1. "它們在某些維度上達(dá)到博士水平，在其他維度上連高中都不到"

當(dāng)前AI系統(tǒng)最大的問題是什么？Hassabis給出了一個(gè)精準(zhǔn)的診斷：鋸齒狀智能（jagged intelligence）。

同一個(gè)模型，能在國際數(shù)學(xué)奧林匹克競賽中拿金牌，卻在簡單的邏輯問題上犯低級錯(cuò)誤；能寫出博士級別的論文，卻數(shù)不清一個(gè)單詞里有幾個(gè)字母；能解決前沿?cái)?shù)學(xué)難題，卻下不好一盤像樣的國際象棋。

"它們在某些維度上表現(xiàn)驚人，甚至達(dá)到博士水平，但在其他維度上連高中水平都不到。這種不均勻是我們現(xiàn)在沒有AGI的關(guān)鍵原因之一。"

造成這種現(xiàn)象的原因是多方面的。有時(shí)候是tokenization（分詞）的問題——當(dāng)你問模型一個(gè)單詞里有幾個(gè)字母時(shí)，它可能根本"看不到"每個(gè)獨(dú)立的字母，因?yàn)樗幚淼氖莟oken而不是字符。有時(shí)候是推理鏈條斷裂，系統(tǒng)在復(fù)雜問題上無法保持一致的邏輯線索。

Hassabis認(rèn)為，一個(gè)真正的AGI系統(tǒng)必須是一致的。不能在某些領(lǐng)域超人，在另一些領(lǐng)域低于常人。這種一致性，恰恰是當(dāng)前系統(tǒng)最缺乏的。

幻覺問題是另一個(gè)核心短板。Hassabis把它歸結(jié)為一個(gè)更深層的問題：模型不知道自己不知道什么。

"大部分幻覺的本質(zhì)是'強(qiáng)行回答'——系統(tǒng)被訓(xùn)練成總要給出答案，而不是承認(rèn)不確定性。"

他打了一個(gè)生動的比方："現(xiàn)在的系統(tǒng)有點(diǎn)像一個(gè)人在糟糕的一天里，脫口而出腦子里冒出的第一個(gè)想法。大多數(shù)時(shí)候沒問題，但遇到真正困難的問題時(shí)，你需要停下來，重新檢查你準(zhǔn)備說的話，然后調(diào)整。"

解決方案的方向很明確：讓模型學(xué)會內(nèi)?。╥ntrospection）。AlphaFold能輸出置信度分?jǐn)?shù)，告訴你哪些預(yù)測可靠、哪些不確定。大語言模型需要類似的機(jī)制。

"更好的模型知道更多關(guān)于它們知道什么的信息，如果這么說有意義的話。"Hassabis說。隨著模型能力提升，它們對自身知識邊界的感知也在變得更可靠。下一步是訓(xùn)練系統(tǒng)在輸出時(shí)能夠反映這種不確定性，而不是強(qiáng)行給出一個(gè)看似自信的答案。

當(dāng)前的"思考型"模型（thinking systems）是朝這個(gè)方向邁出的一步——它們在推理時(shí)花更多時(shí)間，效果確實(shí)更好。但Hassabis認(rèn)為這只走了一半路。

"系統(tǒng)還不能持續(xù)地、有目的地利用這些思考時(shí)間來驗(yàn)證輸出、調(diào)用工具做交叉檢驗(yàn)。我們可能只完成了50%。"

2. 從AlphaGo到AlphaZero：AGI的技術(shù)路徑會重演嗎？

Fry問了一個(gè)尖銳的問題：AlphaGo到AlphaZero的躍遷，那種"拋棄人類知識反而更強(qiáng)"的模式，會在科學(xué)和數(shù)學(xué)領(lǐng)域重演嗎？

Hassabis的回答很有層次。

"我認(rèn)為我們現(xiàn)在構(gòu)建的更像AlphaGo。"他說。當(dāng)前的大語言模型從人類知識出發(fā)，學(xué)習(xí)互聯(lián)網(wǎng)上的所有信息，把它壓縮成一個(gè)可以泛化的artifact（制品）。這是一個(gè)有價(jià)值的起點(diǎn)，但遠(yuǎn)非終點(diǎn)。

下一步是讓系統(tǒng)學(xué)會用AlphaGo那樣的搜索和規(guī)劃能力來引導(dǎo)推理。AlphaGo不只是有一個(gè)好的直覺網(wǎng)絡(luò)，它還有蒙特卡洛樹搜索（MCTS）來探索和驗(yàn)證。當(dāng)前的大語言模型有了直覺，但搜索和規(guī)劃的能力還很原始。

"我目前不覺得我們受限于人類知識的總量——互聯(lián)網(wǎng)上的東西。主要問題是我們還不知道如何像AlphaGo那樣可靠地使用這些系統(tǒng)來做有用的推理軌跡、有用的規(guī)劃想法。"

再下一步，也是更難的一步，是AlphaZero模式——系統(tǒng)開始自己發(fā)現(xiàn)知識，而不是依賴人類數(shù)據(jù)。

"一旦你有了AlphaGo，就可以像我們在Alpha系列中做的那樣，退回去做一個(gè)AlphaZero，讓它從零開始為自己發(fā)現(xiàn)知識。我認(rèn)為那會是下一步。"

但Hassabis承認(rèn)，這顯然更難。他的建議是分步走：先用AlphaGo式的方法建立一個(gè)可靠的系統(tǒng)，然后再考慮AlphaZero式的自主知識發(fā)現(xiàn)。

還有一個(gè)關(guān)鍵能力是當(dāng)前系統(tǒng)完全缺失的：在線學(xué)習(xí)（online learning）。

"我們訓(xùn)練這些系統(tǒng)，調(diào)優(yōu)它們，然后發(fā)布出去。但它們不會在真實(shí)世界中繼續(xù)學(xué)習(xí)，不像我們?nèi)祟惸菢印＿@是通往AGI的另一個(gè)關(guān)鍵缺失。"

3. "Scaling沒有撞墻，但收益在遞減"

去年這個(gè)時(shí)候，關(guān)于"scaling laws失效"的討論甚囂塵上。數(shù)據(jù)要用完了，算力回報(bào)在下降，進(jìn)步會停滯。但Gemini 3的發(fā)布似乎打臉了這些預(yù)言。

Hassabis對這個(gè)問題的回答很精準(zhǔn)：

"很多人有這種想法，尤其是其他一些公司的進(jìn)展變慢了。但我們從來沒有真正看到什么墻。我要說的是，可能存在收益遞減——但當(dāng)我這么說時(shí)，人們就覺得'哦，那就是沒有回報(bào)了'，好像是零或一的關(guān)系，要么指數(shù)增長，要么完全停滯。不是的。這兩種狀態(tài)之間有很大的空間，我認(rèn)為我們就在那個(gè)中間地帶。"

他解釋說，你不會每次發(fā)布新版本都把所有基準(zhǔn)測試的性能翻倍。三四年前的早期可能是那樣，但現(xiàn)在的改進(jìn)是"顯著的、值得投資的"，只是不再是指數(shù)級的。

數(shù)據(jù)瓶頸確實(shí)存在，但有繞過的方法。合成數(shù)據(jù)是一個(gè)方向。在可驗(yàn)證領(lǐng)域——編程、數(shù)學(xué)——系統(tǒng)可以自己生成訓(xùn)練數(shù)據(jù)，因?yàn)槟憧梢宰詣域?yàn)證答案是否正確。理論上，這些領(lǐng)域可以產(chǎn)生無限的訓(xùn)練數(shù)據(jù)。

"所有這些都是研究問題，"Hassabis說，"而這正是我們一直擁有的優(yōu)勢。我們始終是研究優(yōu)先的，我認(rèn)為我們擁有最廣泛、最深厚的研究實(shí)力，一直如此。"

他把DeepMind的策略描述為"50%投入scaling，50%投入創(chuàng)新"。

"我的賭注是，你需要兩者才能到達(dá)AGI。"

回顧過去十年的重大突破——Transformer、AlphaGo、AlphaZero、AlphaFold——它們都出自Google或DeepMind。Hassabis說，如果未來需要更多科學(xué)創(chuàng)新才能繼續(xù)前進(jìn)，"我會押注我們是做這件事的地方"。

"我其實(shí)很喜歡地形變得更困難的時(shí)候。因?yàn)槟菚r(shí)候你不只需要世界級的工程——那本身已經(jīng)夠難了——你還必須把它和世界級的研究與科學(xué)結(jié)合起來。而那正是我們的專長。"

4. 世界模型：被低估的AGI拼圖

如果說大語言模型是DeepMind的"顯學(xué)"，世界模型（world models）則是Hassabis個(gè)人投入最深的"心頭好"。

"這可能是我持續(xù)時(shí)間最長的熱情，"他說，"世界模型和模擬，加上AI?，F(xiàn)在它們終于在我們最新的工作中匯合了，比如Genie。"

語言模型能理解的世界比預(yù)期多。語言可能比語言學(xué)家想象的更豐富，包含更多關(guān)于世界的信息。但仍有大量知識無法用語言描述：

• 空間感知和機(jī)械動力學(xué)

• 物理世界的因果關(guān)系

• 傳感器輸入——關(guān)節(jié)角度、氣味、觸覺

• 需要親身體驗(yàn)才能習(xí)得的技能

"很多東西你沒法用文字描述，你必須去體驗(yàn)它。"

這類知識對機(jī)器人、通用助手、甚至科學(xué)研究都至關(guān)重要。如果你想要一個(gè)能在日常生活中陪伴你的universal assistant（通用助手），不只是在電腦上，而是通過眼鏡或手機(jī)幫助你處理真實(shí)世界的事務(wù)，你就需要這種世界理解能力。

DeepMind的思路是：如果系統(tǒng)能生成逼真的世界，就證明它在某種程度上"理解"了世界的運(yùn)作規(guī)律。

"你怎么測試你有這種理解？嗯，你能生成逼真的世界嗎？因?yàn)槿绻隳苌伤?，那在某種意義上你必須已經(jīng)理解了——系統(tǒng)必須已經(jīng)封裝了很多世界的機(jī)制。"

Genie是可交互的世界模型，用戶（或AI agent）可以在其中行動，世界會實(shí)時(shí)生成響應(yīng)。Veo是視頻生成模型。它們已經(jīng)能很好地處理反射、液體流動等復(fù)雜物理現(xiàn)象——至少在人眼看來是這樣。

"當(dāng)你看Veo處理反射和液體的方式，已經(jīng)相當(dāng)令人難以置信地準(zhǔn)確了，至少對肉眼而言。"

但"看起來對"和"物理學(xué)上正確"是兩回事。下一步是讓精度達(dá)到真正的實(shí)驗(yàn)級別。DeepMind正在用游戲引擎生成"物理基準(zhǔn)測試"——簡單的物理實(shí)驗(yàn)場景（球體沿不同軌道滾動、鐘擺運(yùn)動），測試模型是否真正掌握牛頓三定律，而不只是輸出一個(gè)視覺上合理的近似。

"目前它們是近似，肉眼看著真實(shí)。但要用于機(jī)器人訓(xùn)練，精度還不夠。"

他提到，一旦涉及三體問題這類本身就不可精確求解的系統(tǒng)，事情會變得更有趣。"但快速變得復(fù)雜的是，比如三體問題，那本來就是不可解的。所以我認(rèn)為這會很有意思。"

5. SIMA+Genie：兩個(gè)AI在彼此的心智中互動

最有趣的實(shí)驗(yàn)是把SIMA（能在游戲中執(zhí)行任務(wù)的agent）放進(jìn)Genie生成的世界里——一個(gè)AI在另一個(gè)AI創(chuàng)造的世界中學(xué)習(xí)和探索。

SIMA 2剛剛發(fā)布。它是一個(gè)模擬agent（Simulated Agents），可以被放進(jìn)虛擬世界中，從商業(yè)游戲（如開放世界太空游戲No Man's Sky）到AI生成的環(huán)境都可以。因?yàn)榈讓邮荊emini，你可以直接用自然語言給它下指令。

"然后我們想，如果把Genie接入SIMA，把SIMA agent放進(jìn)另一個(gè)正在實(shí)時(shí)創(chuàng)造世界的AI里，會怎樣？現(xiàn)在兩個(gè)AI在彼此的心智中互動。"

從SIMA的角度，它在嘗試導(dǎo)航和完成任務(wù)；從Genie的角度，那只是一個(gè)玩家和一個(gè)avatar，它不關(guān)心那是不是另一個(gè)AI，只是根據(jù)agent的行為生成周圍的世界。

"看到它們一起互動真的很神奇。我認(rèn)為這可能是一個(gè)有趣訓(xùn)練循環(huán)的開始——你幾乎有了無限的訓(xùn)練樣本，因?yàn)闊o論SIMA agent想學(xué)什么，Genie都可以實(shí)時(shí)創(chuàng)造出來。"

想象一下：自動設(shè)置和解決任務(wù)，數(shù)百萬個(gè)任務(wù)，難度不斷遞增——這一切都不需要人類標(biāo)注。

這項(xiàng)研究還有直接的應(yīng)用前景：SIMA agents可以成為游戲中的AI伙伴，告別無聊的NPC；它們學(xué)到的技能也可能遷移到機(jī)器人領(lǐng)域。

"當(dāng)然，我最想做的事情之一，"Hassabis笑著說，"是把這些應(yīng)用回游戲，創(chuàng)造終極游戲體驗(yàn)。也許這一直是我潛意識里的計(jì)劃。"

6. 在模擬中重跑進(jìn)化：意識會涌現(xiàn)嗎？

Fry提起了第一次采訪時(shí)Hassabis說過的話：他喜歡一種理論，認(rèn)為意識是進(jìn)化的產(chǎn)物——在進(jìn)化的某個(gè)階段，理解另一個(gè)個(gè)體內(nèi)部狀態(tài)的能力帶來了生存優(yōu)勢，然后我們把這種能力轉(zhuǎn)向了自己，于是有了自我意識。

"這讓你想在模擬中運(yùn)行進(jìn)化實(shí)驗(yàn)嗎？"

"當(dāng)然想。"Hassabis說，"我很想在某個(gè)時(shí)候做這個(gè)實(shí)驗(yàn)——重跑進(jìn)化，重跑社會動態(tài)。"

他提到圣塔菲研究所（Santa Fe Institute）曾經(jīng)做過的那些小網(wǎng)格世界實(shí)驗(yàn)。大多是經(jīng)濟(jì)學(xué)家在做，他們想模擬人工社會。結(jié)果發(fā)現(xiàn)，如果讓agents在合適的激勵(lì)結(jié)構(gòu)下運(yùn)行足夠長時(shí)間，各種有趣的東西會自發(fā)涌現(xiàn)——市場、銀行，各種瘋狂的制度安排。

"我認(rèn)為這對理解生命的起源和意識的起源會非常有價(jià)值。這也是我從一開始就對AI感興趣的核心原因之一——我認(rèn)為你需要這類工具才能真正理解我們從哪里來、這些現(xiàn)象是什么。"

模擬的力量在于可以做統(tǒng)計(jì)。你可以跑上百萬次，每次稍微調(diào)整初始條件，然后分析差異。"這是一種非常受控的實(shí)驗(yàn)方式，而對于真正有趣的問題，在現(xiàn)實(shí)世界中幾乎不可能這樣做。"

但Fry追問：考慮到我們已經(jīng)看到這些模型出現(xiàn)了意料之外的涌現(xiàn)特性，比如我們沒有預(yù)期的概念理解能力，運(yùn)行這類模擬是不是也需要相當(dāng)謹(jǐn)慎？

Hassabis承認(rèn)需要小心，但他認(rèn)為模擬的好處恰恰在于可控性。

"你可以在相當(dāng)安全的沙盒里運(yùn)行它們。也許最終需要air-gap（物理隔離）。你可以24/7監(jiān)控模擬中發(fā)生的事情，而且你能訪問所有數(shù)據(jù)。"

他預(yù)見到，我們可能需要用AI工具來幫助監(jiān)控這些模擬，因?yàn)閺?fù)雜度太高——想象成千上萬的AI在一個(gè)模擬中跑來跑去，人類科學(xué)家不可能跟上。"但我們可能可以用其他AI系統(tǒng)來幫助我們分析，自動標(biāo)記任何有趣或令人擔(dān)憂的東西。"

7. 根節(jié)點(diǎn)問題：室溫超導(dǎo)體、核聚變與量子計(jì)算

AlphaFold是Hassabis"根節(jié)點(diǎn)問題"（root node problems）概念的概念驗(yàn)證。根節(jié)點(diǎn)問題的特點(diǎn)是：一旦解決，會解鎖大量下游研究和應(yīng)用。蛋白質(zhì)折疊就是這樣——它困擾了科學(xué)界50年，而一旦解決，藥物發(fā)現(xiàn)、疾病理解、酶設(shè)計(jì)都會加速。

"瘋狂的是，我們快到AlphaFold五周年了，至少是AlphaFold 2被公布的五周年。那是證明點(diǎn)，證明用AI解決這類根節(jié)點(diǎn)問題是可能的。"

下一個(gè)目標(biāo)是什么？

材料科學(xué)是重點(diǎn)。Hassabis明確提到他想做的事：室溫超導(dǎo)體、更好的電池。

"我很想做一個(gè)室溫超導(dǎo)體。還有更好的電池，這類東西。我認(rèn)為那在計(jì)劃之中。"

DeepMind近期宣布與英國政府的深度合作，將在2026年開設(shè)其第一個(gè)自動化研究實(shí)驗(yàn)室，專注于發(fā)現(xiàn)先進(jìn)材料，包括超導(dǎo)體。實(shí)驗(yàn)室將整合Gemini AI模型和機(jī)器人技術(shù)，每天可以合成和表征數(shù)百種材料。

核聚變方面，DeepMind與Commonwealth Fusion簽署了深度合作協(xié)議。Commonwealth Fusion被認(rèn)為是在傳統(tǒng)托卡馬克反應(yīng)堆方向上最接近實(shí)現(xiàn)商業(yè)化的初創(chuàng)公司。DeepMind將幫助他們控制等離子體在磁約束中的行為，可能還涉及材料設(shè)計(jì)。

"如果我們能擁有模塊化的聚變反應(yīng)堆，你知道，那個(gè)幾乎無限的可再生清潔能源的承諾，會轉(zhuǎn)變一切。那是圣杯。"

Hassabis描繪了一個(gè)能源近乎免費(fèi)的未來：海水淡化可以遍地開花，解決水資源問題；甚至可以用海水制造火箭燃料——海水里有氫和氧，那基本上就是火箭燃料，只是分離它們需要大量能源。如果能源便宜、清潔、可再生，為什么不24/7地生產(chǎn)呢？

"當(dāng)然，這也是我們可以幫助應(yīng)對氣候問題的方式之一。"

量子計(jì)算是另一個(gè)有趣的協(xié)作方向。DeepMind正在用機(jī)器學(xué)習(xí)幫助Google的量子團(tuán)隊(duì)做糾錯(cuò)碼（error correction codes）優(yōu)化。

"然后也許有一天他們會幫助我們。"Hassabis說，暗示量子計(jì)算未來可能反過來加速AI研究。

8. AI泡沫：存在，但分領(lǐng)域看

"去年這個(gè)時(shí)候你說AI在短期內(nèi)被高估，在長期內(nèi)被低估。今年有很多關(guān)于AI泡沫的討論。如果有泡沫而且破裂了，會發(fā)生什么？"

Hassabis的回答很有層次。

"我仍然認(rèn)為短期內(nèi)被高估，長期內(nèi)仍然被低估——它會有多變革性。是的，現(xiàn)在確實(shí)有很多關(guān)于AI泡沫的討論。"

他不認(rèn)為這是一個(gè)"有或沒有"的二元問題。AI生態(tài)系統(tǒng)的不同部分處于不同狀態(tài)。

有泡沫的部分："比如，種子輪融資的初創(chuàng)公司，基本上什么都沒做就以數(shù)百億美元的估值融資。很難看出這怎么可能是可持續(xù)的。"

沒泡沫的部分：大科技公司的核心AI業(yè)務(wù)有真實(shí)的商業(yè)支撐。

他做了一個(gè)歷史類比："任何一項(xiàng)難以置信地變革性和深刻的新技術(shù)——AI可能是最深刻的——都會出現(xiàn)這種過度修正。當(dāng)我們創(chuàng)辦DeepMind時(shí)，沒人相信這件事，沒人認(rèn)為可能。人們在問'AI有什么用？'然后快進(jìn)10到15年，現(xiàn)在它似乎是商業(yè)世界唯一談?wù)摰脑掝}。所以你會得到這種過度反應(yīng)——對之前反應(yīng)不足的過度反應(yīng)。我認(rèn)為這是自然的。我們在互聯(lián)網(wǎng)上看到過，在移動上看到過，我認(rèn)為我們正在或即將在AI上看到。"

但Hassabis說他并不太擔(dān)心泡沫問題，因?yàn)闊o論哪種情況，DeepMind和Google都處于有利位置。

"從我領(lǐng)導(dǎo)Google DeepMind的角度，以及整個(gè)Alphabet的角度，我的工作是確保無論哪種情況，我們都能以非常強(qiáng)的姿態(tài)走出來。我認(rèn)為我們確實(shí)處于極好的位置。"

他列舉了DeepMind的優(yōu)勢：自己的TPU基礎(chǔ)設(shè)施；Google龐大的產(chǎn)品生態(tài)可以整合AI（Search、YouTube、Workspace、Gmail、Chrome）；每個(gè)產(chǎn)品都有顯而易見的AI應(yīng)用場景。

"如果繼續(xù)像現(xiàn)在這樣發(fā)展，太棒了。如果有收縮，也沒關(guān)系。我們的位置都很好。"

9. "不能重蹈社交媒體覆轍"

Fry問了一個(gè)尖銳的問題：你最近說過AI不能以"最大化用戶參與度"為目標(biāo)，以免重蹈社交媒體覆轍。但我們是不是已經(jīng)在看到這種情況了？人們花大量時(shí)間和聊天機(jī)器人交談，然后進(jìn)入自我激進(jìn)化的螺旋。

"這是我們作為行業(yè)必須做對的最重要的事情之一。"Hassabis說。

他提到已經(jīng)看到一些系統(tǒng)過度迎合用戶（overtly sycophantic），導(dǎo)致回音室效應(yīng)強(qiáng)化，"這對人真的很糟糕"。

解決方案的一部分是精心設(shè)計(jì)AI的"人格"（persona）。Gemini 3的人格設(shè)計(jì)是Hassabis親自參與的項(xiàng)目。

"我真的很滿意Gemini 3的人格。我們有一個(gè)很棒的團(tuán)隊(duì)在做這件事，我個(gè)人也幫助了。它就像一種科學(xué)型的人格——溫暖、有幫助、輕松，但簡潔、切題，而且會友善地push back那些不合理的東西。"

他舉了個(gè)例子：如果用戶說地球是平的，系統(tǒng)不會迎合說"好主意！"那對社會不好。

"但你得平衡人們的需求，因?yàn)槿藗兇_實(shí)希望這些系統(tǒng)是支持性的，能幫助他們的想法和頭腦風(fēng)暴。所以你得找到那個(gè)平衡點(diǎn)。"

Hassabis描述了一種正在形成的"人格科學(xué)"——如何測量模型在真實(shí)性、幽默感等維度上的表現(xiàn)，然后設(shè)定你希望它處于什么位置。

"然后你可以想象，有一個(gè)基礎(chǔ)人格是每個(gè)人都會得到的，然后每個(gè)人有自己的偏好——你想要更幽默還是不那么幽默？更簡潔還是更詳細(xì)？人們喜歡不同的東西。你在基礎(chǔ)人格上添加那層個(gè)性化。但核心的基礎(chǔ)人格是每個(gè)人都得到的，它試圖遵循科學(xué)方法，因?yàn)槟鞘沁@些系統(tǒng)的全部意義。"

10. AGI時(shí)間線：5到10年

"你和Shane Legg討論過AGI。在當(dāng)前AI的所有進(jìn)展中——語言模型、世界模型等等——什么最接近你對AGI的愿景？"

Hassabis的回答指向了多個(gè)項(xiàng)目的融合。

Gemini 3是核心，但他特別提到了幾周前發(fā)布的Native Banana Pro圖像創(chuàng)作系統(tǒng)。它底層也是Gemini，所以不只是處理圖像，還能理解圖像中發(fā)生了什么的語義。

"人們才玩了一周，但我已經(jīng)在社交媒體上看到了很多很酷的東西。比如，你給它一張復(fù)雜飛機(jī)的圖片，它能標(biāo)注所有部件的示意圖，甚至可視化出所有不同部件被分解的形式。"

這說明系統(tǒng)有某種對機(jī)械和材料的深層理解——物體由什么組成、如何構(gòu)成。它還能準(zhǔn)確渲染文字，這在之前的圖像模型中一直是弱點(diǎn)。

"我認(rèn)為那有點(diǎn)像圖像領(lǐng)域的AGI。它是一個(gè)通用系統(tǒng)，可以在圖像領(lǐng)域做任何事情。"

然后是世界模型的進(jìn)展——Genie、SIMA以及相關(guān)研究。

"最終我們需要把所有這些不同的項(xiàng)目融合起來。它們現(xiàn)在還是不同的項(xiàng)目，雖然相互交織，但我們需要把它們?nèi)诤铣梢粋€(gè)大模型。那可能開始成為proto-AGI的候選。"

至于時(shí)間線，Hassabis給出的框架是5到10年。

他強(qiáng)調(diào)這個(gè)時(shí)間對于建立應(yīng)對機(jī)制來說"不長"——機(jī)構(gòu)建設(shè)、國際協(xié)調(diào)都需要時(shí)間。"我很驚訝沒有更多人在討論這些問題。"

11. 工業(yè)革命的教訓(xùn)：規(guī)模10倍，速度10倍

Hassabis最近在深入研究工業(yè)革命的歷史。

"你在學(xué)校學(xué)過，至少在英國是這樣，但只是很膚淺的層面。對我來說，深入了解它是怎么發(fā)生的、從哪里開始的、背后的經(jīng)濟(jì)原因是什么——比如紡織業(yè)——然后第一批計(jì)算機(jī)實(shí)際上是縫紉機(jī)，然后變成了早期Fortran計(jì)算機(jī)的打孔卡片……這真的很有趣。"

他總結(jié)了工業(yè)革命的正反兩面。

正面：嬰兒死亡率下降，現(xiàn)代醫(yī)學(xué)出現(xiàn)，衛(wèi)生條件改善，工作與生活的劃分方式被確立，交通革命……所有這些都始于工業(yè)革命。沒有人會想回到工業(yè)革命之前。

負(fù)面：整個(gè)過程花了大約一個(gè)世紀(jì)才展開。期間，勞動力市場的不同部分在不同時(shí)期被顛覆，然后需要創(chuàng)造新的組織形式（如工會）來重新平衡。"看到整個(gè)社會如何必須隨著時(shí)間適應(yīng)，然后才有了現(xiàn)代世界，這很迷人。"

AI革命的區(qū)別是什么？

"這次可能是工業(yè)革命的10倍大，而且會快10倍。所以更像是一個(gè)十年，而不是一個(gè)世紀(jì)。"

Shane Legg在之前的播客中說過，當(dāng)前"用勞動換取資源"的經(jīng)濟(jì)系統(tǒng)在后AGI社會可能根本無法運(yùn)作。Hassabis同意這個(gè)判斷。

"我現(xiàn)在花更多時(shí)間思考這個(gè)問題，Shane實(shí)際上在領(lǐng)導(dǎo)一個(gè)相關(guān)的工作。整個(gè)社會都需要花更多時(shí)間思考這個(gè)——經(jīng)濟(jì)學(xué)家、社會科學(xué)家、政府。"

他提到，工業(yè)革命徹底改變了工作方式，從農(nóng)業(yè)社會轉(zhuǎn)變?yōu)楣I(yè)社會。"我不會驚訝如果我們需要新的經(jīng)濟(jì)系統(tǒng)、新的經(jīng)濟(jì)模型來幫助這種轉(zhuǎn)型，確保收益被廣泛分配。"

Universal Basic Income（全民基本收入）可能是解決方案的一部分，但Hassabis認(rèn)為那只是"我們現(xiàn)在能建模的東西"，是對現(xiàn)有系統(tǒng)的補(bǔ)丁。

"但我認(rèn)為可能有更好的系統(tǒng)。比如更像直接民主的系統(tǒng)，你可以用一定數(shù)量的積分為你想看到的東西投票。這實(shí)際上已經(jīng)在地方社區(qū)層面發(fā)生了——這里有一筆錢，你們想要一個(gè)游樂場、一個(gè)網(wǎng)球場，還是學(xué)校多一間教室？然后讓社區(qū)投票。"

他甚至設(shè)想了一種迭代優(yōu)化機(jī)制：那些持續(xù)為好結(jié)果投票的人，在下一輪投票中獲得更大的影響力權(quán)重。"有很多有趣的東西。我有一些經(jīng)濟(jì)學(xué)家朋友在頭腦風(fēng)暴這些。"

然后是更哲學(xué)的層面。

"如果聚變問題解決了，我們有了豐富的免費(fèi)能源，我們就進(jìn)入了后稀缺社會。那錢會怎樣？也許每個(gè)人都更富裕了，但目的感（purpose）會怎樣？因?yàn)楹芏嗳藦墓ぷ髦蝎@得目的感，從養(yǎng)家糊口中獲得目的感——那是很崇高的目的。"

他承認(rèn)，"一些問題從經(jīng)濟(jì)問題融入了幾乎是哲學(xué)問題。"

12. 國際協(xié)調(diào)：為什么沒有更多人在討論這些？

"你擔(dān)心人們似乎沒有足夠注意這些、沒有像你希望的那樣快速行動嗎？需要什么才能讓人們認(rèn)識到我們需要在這個(gè)問題上進(jìn)行國際合作？"

Hassabis表達(dá)了擔(dān)憂。

"我是擔(dān)心的。在一個(gè)理想世界里，應(yīng)該已經(jīng)有更多的合作，特別是國際層面的合作，應(yīng)該有更多的研究和討論。考慮到我們的時(shí)間線——有些人的時(shí)間線非常短，但即使是我們的，也是5到10年——對于機(jī)構(gòu)或相關(guān)組織來說，這不是很長的時(shí)間。"

他指出，目前存在的機(jī)構(gòu)似乎"非常碎片化，影響力也不足以達(dá)到需要的程度"?？赡芨静淮嬖诤线m的機(jī)構(gòu)來處理這件事。

加上當(dāng)前的地緣政治緊張，合作似乎比以往任何時(shí)候都更困難。"看看氣候變化，要在任何事情上達(dá)成協(xié)議有多難。"

他的希望是，隨著系統(tǒng)變得更強(qiáng)大，籌碼變得更高，也許會有更多人認(rèn)識到需要合作。這也是AI產(chǎn)品化的一個(gè)好處——普通人能體驗(yàn)到這些系統(tǒng)能力的增長，然后傳導(dǎo)到政府層面。

"也許隨著我們接近AGI，他們會開始明白。"

Fry追問：你認(rèn)為需要一個(gè)事件——一次事故——才能讓所有人警醒嗎？

"我不知道。我希望不是。"

Hassabis說，主要的AI實(shí)驗(yàn)室都相當(dāng)負(fù)責(zé)任。DeepMind一直把安全放在首位。"不意味著我們會把每件事都做對，但我們盡量做到深思熟慮和科學(xué)化。"

他指出，即使從商業(yè)角度看，負(fù)責(zé)任也是有利的。"如果你想把a(bǔ)gent租給另一家公司，他們會想知道這些agent的限制、邊界、護(hù)欄是什么——它們可能做什么、不會做什么，會不會搞亂數(shù)據(jù)之類的。"那些不負(fù)責(zé)任的玩家不會得到企業(yè)客戶的信任。

"但會有流氓行為者——也許是流氓國家，也許是流氓組織，也許是在開源基礎(chǔ)上構(gòu)建的人。很難阻止那些。然后可能會出問題。希望只是中等規(guī)模的問題，然后那會成為對人類的警告——橫跨船頭的一槍——然后那可能是倡導(dǎo)國際標(biāo)準(zhǔn)、國際合作的時(shí)刻。"

13. 圖靈機(jī)的極限在哪里？

對話進(jìn)入最后階段，F(xiàn)ry問了一個(gè)根本性的問題：在長期，超越AGI走向ASI（人工超級智能），你認(rèn)為有些事情是人類能做而機(jī)器永遠(yuǎn)做不到的嗎？

"這是個(gè)大問題，"Hassabis說，"我覺得這和圖靈機(jī)有關(guān)——你知道我最喜歡的話題之一。"

他回憶起自己最初對這個(gè)問題的興趣。

"我一直有一種感覺：如果我們構(gòu)建AGI，然后把它作為心智的模擬，再與真實(shí)心智比較，我們就會看到差異是什么——人類心智有什么特別的、剩余的東西。也許是創(chuàng)造力，也許是情感，也許是做夢。意識。有很多假說，關(guān)于什么可能是可計(jì)算的、什么不是，這回到圖靈機(jī)的問題：圖靈機(jī)的極限是什么？"

他停頓了一下。

"我認(rèn)為那是我人生的核心問題。自從我知道圖靈和圖靈機(jī)以來，我就愛上了這個(gè)問題。"

然后他給出了自己的判斷。

"目前為止，沒有人發(fā)現(xiàn)宇宙中任何不可計(jì)算的東西。"

AlphaFold折疊蛋白質(zhì)、AlphaGo下圍棋——這些成就遠(yuǎn)超傳統(tǒng)復(fù)雜性理論對經(jīng)典計(jì)算機(jī)能力的預(yù)期。復(fù)雜性理論家們認(rèn)為的"P vs NP"邊界，似乎在實(shí)踐中可以被突破。

"如果你逼我猜，我會說：宇宙中的一切在計(jì)算上都是可處理的，只要你用正確的方式看待它。因此圖靈機(jī)可能能夠模擬宇宙中的一切。我目前就是按這個(gè)假設(shè)工作的，直到物理學(xué)證明我錯(cuò)了。"

他承認(rèn)量子計(jì)算的朋友們可能會說，有些系統(tǒng)是經(jīng)典計(jì)算機(jī)無法模擬的，你需要量子計(jì)算機(jī)來處理量子系統(tǒng)。"但我真的不太確定。"

他和量子研究者討論過，也許我們只需要從量子系統(tǒng)獲取數(shù)據(jù)，然后用經(jīng)典方法做模擬。

這又回到心智的問題。大腦是純粹的經(jīng)典計(jì)算，還是有量子效應(yīng)在發(fā)揮作用？Roger Penrose相信大腦中有量子效應(yīng)，而且與意識有關(guān)。如果他是對的，那么經(jīng)典機(jī)器可能永遠(yuǎn)無法復(fù)現(xiàn)意識——至少要等到量子計(jì)算機(jī)成熟。

"但如果不是這樣，那可能就沒有任何極限了。也許宇宙中的一切在計(jì)算上都是可處理的，因此圖靈機(jī)能夠模擬宇宙中的一切。"

Fry把這個(gè)推論推到極致：這意味著我們此刻感受到的一切——光線的溫暖、桌面的觸感、背景的嗡鳴聲——理論上都可以被經(jīng)典計(jì)算機(jī)復(fù)現(xiàn)？

"是的，"Hassabis說，"我認(rèn)為最終，就像我為什么喜歡康德——我兩個(gè)最喜歡的哲學(xué)家是康德和斯賓諾莎，原因不同——康德說，現(xiàn)實(shí)是心智的建構(gòu)。我認(rèn)為那是對的。"

所有那些感受——光的溫暖、桌子的觸感——它們都進(jìn)入我們的感覺器官，感覺起來不同，但最終都是信息。我們是信息處理系統(tǒng)。

"我認(rèn)為那就是生物學(xué)的本質(zhì)。這也是我們在Isomorphic Labs試圖做的——我認(rèn)為我們最終會通過把生物學(xué)當(dāng)作信息處理系統(tǒng)來治愈所有疾病。"

他透露自己在"僅有的一點(diǎn)空閑時(shí)間"里在研究物理學(xué)理論——關(guān)于信息是否是宇宙最基本單位（而非能量或物質(zhì)）的理論。

"也許這些在最終都是可互換的。但我們只是以不同的方式感知它、體驗(yàn)它。據(jù)我們所知，所有這些驚人的傳感器仍然可以被圖靈機(jī)計(jì)算。"

Fry說，這就是為什么他的模擬世界研究如此重要。

"沒錯(cuò)。那會是方法之一。我們能模擬什么的極限在哪里？因?yàn)槿绻隳苣M它，在某種意義上你就理解了它。"

14. "我訓(xùn)練了一輩子就是為了這一刻"

"我想以一些個(gè)人反思結(jié)束。站在這一切的前沿，情感上的重量會壓垮你嗎？會感到孤獨(dú)嗎？"

Hassabis坦承，他睡得不多。"部分是因?yàn)楣ぷ魈?，部分是因?yàn)槲艺娴乃缓谩?

情感是復(fù)雜的。

一方面是難以置信的興奮。"我基本上在做我一直夢想的所有事情。我們處于科學(xué)的絕對前沿——在很多方面，應(yīng)用科學(xué)和機(jī)器學(xué)習(xí)都是。那種感覺是令人振奮的，所有科學(xué)家都知道那種處于前沿、第一次發(fā)現(xiàn)某些東西的感覺。對我們來說，這幾乎每個(gè)月都在發(fā)生。這太神奇了。"

另一方面是責(zé)任的重量。"我和Shane以及其他長期做這件事的人，我們比任何人都更理解即將發(fā)生的事情的巨大性。關(guān)于它仍然被低估這件事——在十年時(shí)間尺度上會發(fā)生什么，包括對哲學(xué)層面的影響，比如作為人類意味著什么、什么是重要的——所有這些問題都會浮現(xiàn)。"

但他說自己已經(jīng)為此訓(xùn)練了一生。

"至少對我自己而言，我從小時(shí)候下棋開始，然后是計(jì)算機(jī)、游戲、模擬、神經(jīng)科學(xué)——這一切都是為了這種時(shí)刻。它大致和我想象的一樣。這也是我應(yīng)對的方式之一——就是訓(xùn)練。"

有沒有什么比預(yù)期更難的？

"有的。一路上的很多事情。"

他提到了AlphaGo比賽。"看到我們?nèi)绾喂タ藝濉珖迨沁@個(gè)美麗的謎團(tuán)，而我們改變了它。那是有趣的，有點(diǎn)苦樂參半。"

最近的事情也是。"語言、圖像……這對創(chuàng)造力意味著什么？我對創(chuàng)意藝術(shù)有巨大的尊重和熱情，我自己做過游戲設(shè)計(jì)。我和電影導(dǎo)演交談，這對他們來說也是雙重時(shí)刻。一方面，他們有了這些驚人的工具，可以把原型創(chuàng)意的速度提高10倍。但另一方面，這是否在取代某些創(chuàng)造性技能？"

"我認(rèn)為有這些權(quán)衡……這對于任何像AI這樣強(qiáng)大和變革性的技術(shù)來說是不可避免的。過去是電力、互聯(lián)網(wǎng)。我們已經(jīng)看到，這是人類的故事——我們是制造工具的動物，這是我們喜歡做的事。由于某種原因，我們也有一個(gè)可以理解科學(xué)、做科學(xué)的大腦，這很神奇，但我們也有無止境的好奇心。我認(rèn)為那是作為人類的核心，我從一開始就有那種bug。我表達(dá)它的方式就是構(gòu)建AI。"

Fry問：當(dāng)你和其他AI領(lǐng)導(dǎo)人在一個(gè)房間里時(shí)，有團(tuán)結(jié)感嗎？還是競爭讓你們疏遠(yuǎn)？

"我們都認(rèn)識彼此。我和他們中的大多數(shù)人相處得很好。有些人彼此不太合得來……"他笑了笑。

"這也很難，因?yàn)槲覀兺瑫r(shí)處于有史以來最激烈的資本主義競爭中。我的投資人朋友、VC朋友——那些經(jīng)歷過互聯(lián)網(wǎng)泡沫時(shí)代的人——說這比那時(shí)候激烈10倍。"

"在很多方面我喜歡這個(gè)。我熱愛競爭。從我下棋的日子起就是這樣。"

"但退后一步，我理解——我希望每個(gè)人都理解——有比公司成功更大的事情在這里。"

在接下來的十年里，他最擔(dān)心什么？

"現(xiàn)在的系統(tǒng)還是被動的。你作為用戶投入能量，問問題、提任務(wù)，然后它們給你某種總結(jié)或答案。非常受人類指導(dǎo)、人類能量驅(qū)動。"

"下一階段是基于agent的系統(tǒng)，我們已經(jīng)在看到了，但還很原始。在未來幾年，我認(rèn)為我們會開始看到真正令人印象深刻的可靠agent。它們會極其有用和有能力，但它們也會更自主。所以我認(rèn)為風(fēng)險(xiǎn)也會上升。"

他透露DeepMind正在為此做準(zhǔn)備工作——比如網(wǎng)絡(luò)防御，為一個(gè)可能有數(shù)百萬agent在互聯(lián)網(wǎng)上漫游的世界做準(zhǔn)備。

最期待什么？

"我的使命一直是幫助世界安全地把AGI帶過終點(diǎn)線，為全人類。我認(rèn)為當(dāng)我們到達(dá)那個(gè)點(diǎn)——當(dāng)然，然后還有超級智能、后AGI，還有所有我們討論的經(jīng)濟(jì)和社會問題，也許我能以某種方式幫助。"

"但我想，那將是我核心生命使命完成的時(shí)刻——如果能把這件事做成，或者幫助世界做成這件事。而且我認(rèn)為這需要合作。我是個(gè)相當(dāng)合作的人，所以我希望能從我所處的位置幫助推動這件事。"

"然后你能休個(gè)假了。"Fry說。

Hassabis笑了："是的，一個(gè)當(dāng)之無愧的休假。"

核心問答

Q1: 當(dāng)前AI最大的短板是什么？

鋸齒狀智能（jagged intelligence）。同一個(gè)模型在某些任務(wù)上表現(xiàn)出博士水平，在其他任務(wù)上連高中水平都不到。這種不一致性是AGI與當(dāng)前系統(tǒng)的根本差距。另一個(gè)核心問題是幻覺——模型不知道自己不知道什么，被訓(xùn)練成總要給出答案而不是承認(rèn)不確定性。解決方向是讓模型學(xué)會內(nèi)省，像AlphaFold那樣輸出置信度分?jǐn)?shù)。

Q2: DeepMind認(rèn)為到達(dá)AGI還需要什么關(guān)鍵能力？

三個(gè)主要方向：一是在語言模型基礎(chǔ)上添加AlphaGo式的搜索和規(guī)劃能力，讓推理變得可靠；二是AlphaZero式的自主知識發(fā)現(xiàn)，不再完全依賴人類數(shù)據(jù)；三是在線學(xué)習(xí)能力，讓模型部署后能繼續(xù)從真實(shí)世界中學(xué)習(xí)適應(yīng)。目前的"思考型"模型只完成了約50%的工作。

Q3: 為什么Hassabis認(rèn)為圖靈機(jī)可能能模擬宇宙中的一切？

到目前為止，沒有人發(fā)現(xiàn)宇宙中任何不可計(jì)算的東西。AlphaFold和AlphaGo的成就遠(yuǎn)超傳統(tǒng)復(fù)雜性理論對經(jīng)典計(jì)算機(jī)的預(yù)期。唯一的例外可能是如果大腦中存在量子效應(yīng)且與意識相關(guān)（如Penrose的理論），那么經(jīng)典機(jī)器可能無法復(fù)現(xiàn)意識。但Hassabis傾向于相信一切都是信息，我們是信息處理系統(tǒng)，而信息是可計(jì)算的。他把這個(gè)問題稱為"我人生的核心問題"。