預(yù)測次貸危機(jī)、做空英偉達(dá)的投資大師麥克爾·伯里（Michael Burry）、Anthropic的聯(lián)合創(chuàng)始人杰克·克拉克（Jack Clark），以及科技觀察者德瓦克什·帕特爾（Dwarkesh Patel），三個(gè)人進(jìn)行了一場辯論，主題是：

AI，究竟是人類歷史上最偉大的技術(shù)革命，還是一場即將破裂的資本泡沫?

杰克·克拉克提出了一個(gè)非常有趣，但有悖于常識(shí)的觀察：“2017年，AI圈的主流共識(shí)是白板策略，讓AI從零開始，在《星際爭霸》《Dota2》等游戲中反復(fù)試錯(cuò)，最終進(jìn)化出通用智能?！?/p>

DeepMind和OpenAI都押注這條路線，培養(yǎng)出了超越人類的游戲AI。

但歷史證明，這條路走不通。

真正改變游戲規(guī)則的是另一條路徑：大規(guī)模預(yù)訓(xùn)練+Transformer架構(gòu)+縮放定律。

《Attention Is All You Need》論文提出的Transformer讓大規(guī)模訓(xùn)練變得高效，而縮放定律則揭示了一個(gè)簡單卻強(qiáng)大的真理——你投入的數(shù)據(jù)和算力越多，模型就越聰明，這種關(guān)系可以被精確建模。

杰克·克拉克說“現(xiàn)在的AI是它一輩子最差的時(shí)候！今天Claude或GPT-4的能力已經(jīng)是地板而非天花板。如果你上次體驗(yàn)AI還是在幾個(gè)月前，你對(duì)前沿技術(shù)的判斷已經(jīng)嚴(yán)重失準(zhǔn)?！?/p>

這種快速迭代讓AI實(shí)驗(yàn)室開始回到智能體研發(fā)，但這次它們站在了預(yù)訓(xùn)練大模型這個(gè)強(qiáng)大的肩膀上。

DeepMind的SIMA2可以探索3D環(huán)境，ClaudeCode可以自主編程，它們的底層都是預(yù)訓(xùn)練模型賦予的先天智慧，就像每個(gè)未來的《星際爭霸》AI都已經(jīng)讀過中文原版《孫子兵法》。

然而，就在討論分為沉浸在技術(shù)突破的興奮中時(shí)，麥克爾·伯里拋出了一盆冷水。他講了一個(gè)巴菲特的故事：

沃倫·巴菲特在60年代末擁有一家百貨商店。當(dāng)街對(duì)面的百貨商店裝了一部自動(dòng)扶梯時(shí)，他也必須跟著裝。最終，沒人從這個(gè)昂貴的項(xiàng)目中獲益。利潤率沒有持久提升，成本結(jié)構(gòu)也沒改善，兩家店還是處在完全相同的競爭位置上。

這個(gè)自動(dòng)扶梯理論直擊AI投資狂潮的要害。

所有科技巨頭都被FOMO（錯(cuò)失恐懼癥）驅(qū)動(dòng)著購買GPU、建數(shù)據(jù)中心時(shí)，卻沒有人能真正獲得持久的競爭優(yōu)勢。

“因?yàn)槟愕母偁帉?duì)手也在做同樣的事，最終雙方只是把AI能力變成了做生意的必備成本，而非利潤來源?！?/p>

伯里的數(shù)據(jù)更加觸目驚心：“英偉達(dá)售出了4000億美元的芯片，但終端用戶的AI產(chǎn)品收入不到1000億美元?！边@個(gè)4:1的基礎(chǔ)設(shè)施/應(yīng)用收入比，在他看來是典型的泡沫特征。

更糟糕的是，芯片現(xiàn)在每年更新一代，今天斥巨資建造的數(shù)據(jù)中心，可能在兩三年后就成為擱淺資產(chǎn)。

他特別點(diǎn)名了微軟CEO薩提亞·納德拉的一句話：我撤回了一些項(xiàng)目并放慢了建設(shè)速度，因?yàn)槲也幌朐谶@一代芯片上被卡住四五年的折舊。這在伯里眼中是確鑿證據(jù)——連最樂觀的建設(shè)者都開始擔(dān)心資本陷阱。

伯里最關(guān)心的指標(biāo)是ROIC（投入資本回報(bào)率），這是衡量公司還有多少增長空間的黃金標(biāo)準(zhǔn)。過去，微軟、谷歌這些軟件巨頭的ROIC極高，因?yàn)檐浖缀趿氵呺H成本，一旦開發(fā)完成就能持續(xù)產(chǎn)生現(xiàn)金流。

但AI改變了一切。這些公司正在變成資本密集型的硬件企業(yè)，需要持續(xù)投入巨額資本購買GPU、建數(shù)據(jù)中心、支付電費(fèi)。

納德拉在采訪中說，他希望通過AI在沉重的資本支出周期中維持ROIC，但伯里回應(yīng)：“我看不到這一點(diǎn)，甚至對(duì)納德拉來說，這聽起來也只是一個(gè)希望?！?/p>

更隱蔽的問題是股權(quán)薪酬（SBC）。伯里計(jì)算出，英偉達(dá)大約一半的賬面利潤被股權(quán)薪酬吃掉了。

“當(dāng)一半員工身價(jià)2500萬美元時(shí)，他們的生產(chǎn)力提升還算數(shù)嗎？扣除真實(shí)的SBC成本后，這些AI明星公司的利潤率會(huì)大幅縮水?！?/p>

德瓦克什試圖反駁：“為什么ROIC比絕對(duì)回報(bào)更重要？AI讓科技公司的潛在市場從廣告（4000億美元）擴(kuò)大到勞動(dòng)力（數(shù)十萬億美元）?！?/p>

但伯里堅(jiān)持：“如果一家公司靠借債或燒光現(xiàn)金流去做低回報(bào)投資，它只是虛胖，市盈率最終會(huì)跌到8倍，也就是那些沒有增長前景的傳統(tǒng)企業(yè)的水平?！?/p>

關(guān)于AI是否真的提升生產(chǎn)力，討論陷入了數(shù)據(jù)的迷霧。

Anthropic對(duì)內(nèi)部開發(fā)者的調(diào)查顯示，60%使用Claude的人自稱生產(chǎn)力提高了50%。但METR的獨(dú)立研究卻發(fā)現(xiàn)，開發(fā)者在熟悉的代碼庫中使用AI工具后，合并Pull Request的時(shí)間反而增加了20%。

杰克·克拉克坦誠地承認(rèn)：“數(shù)據(jù)是相互矛盾且稀疏的。人們的主觀感受和客觀現(xiàn)實(shí)可能南轅北轍——自我報(bào)告的生產(chǎn)力暴漲，恰恰可能掩蓋了真實(shí)生產(chǎn)力的停滯甚至下降。Anthropic正在開發(fā)新的監(jiān)測工具，希望在2026年拿出研究成果來澄清真相?！?/p>

德瓦克什提出了一個(gè)更深層的疑問：“如果AI真的能讓開發(fā)者效率提升10倍，為什么三大AI實(shí)驗(yàn)室（OpenAI、Anthropic、谷歌）的競爭比以往任何時(shí)候都激烈？要么內(nèi)部吃自家狗糧無法形成護(hù)城河，要么AI的生產(chǎn)力增益遠(yuǎn)比表面看起來要小?！?/p>

最諷刺的是就業(yè)市場的沉默。

德瓦克什說：“如果你在2017年給我看Gemini 3或Claude 4.5，我會(huì)以為它能讓一半白領(lǐng)失業(yè)。但現(xiàn)在AI對(duì)勞動(dòng)力市場的影響需要用'電子表格顯微鏡'才能看到。工業(yè)革命曾導(dǎo)致義務(wù)教育年限延長，以延緩年輕人進(jìn)入勞動(dòng)力市場，但AI革命至今沒有引發(fā)任何類似的社會(huì)震蕩?！?/p>

如果說這場討論有一個(gè)讓所有人都感到震驚的點(diǎn)，那就是谷歌的落后。

《Attention Is All You Need》的八位作者全是谷歌員工，谷歌擁有搜索、Gmail、安卓的海量數(shù)據(jù)，擁有TPU芯片，甚至早就開發(fā)出了內(nèi)部的大語言模型。

然而就是這樣一家擁有所有技術(shù)積淀的巨頭，卻眼睜睜看著OpenAI憑一個(gè)ChatGPT聊天機(jī)器人引爆了AI革命。伯里難以置信：“谷歌在AI領(lǐng)域追趕一家初創(chuàng)公司，這簡直令人難以置信。”

更詭異的是，這場革命是一個(gè)聊天機(jī)器人開啟的。ChatGPT的用例從一開始就很有限——搜索、學(xué)生作弊、編程，但它卻觸發(fā)了數(shù)萬億美元的基礎(chǔ)設(shè)施競賽。

伯里打了個(gè)比方：“這就像有人造了一個(gè)原型機(jī)器人，然后世界上每個(gè)企業(yè)都開始為機(jī)器人未來砸錢。”

競爭格局也讓人困惑。德瓦克什觀察到，AI領(lǐng)域的領(lǐng)先優(yōu)勢極度不持久——2017年是谷歌，幾年前是OpenAI，現(xiàn)在三巨頭每隔幾個(gè)月就輪流站上領(lǐng)獎(jiǎng)臺(tái)。似乎有某種力量（人才挖角、信息流通、逆向工程）在不斷抹平任何單一實(shí)驗(yàn)室的滾雪球優(yōu)勢。

杰克·克拉克認(rèn)為，雖然所有實(shí)驗(yàn)室都在用AI輔助開發(fā)，但存在木桶效應(yīng)：“代碼生成提速10倍，但代碼審查只提速2倍，整體并沒有質(zhì)變?！?/p>

討論到最后，三位嘉賓難得達(dá)成了共識(shí)：“能源才是AI發(fā)展的終極制約因素。”

我們也曾在文章《谷歌為發(fā)電上天了，但AI真的缺電嗎？》中寫到過相同的論調(diào)。

伯里給政策制定者的建議異常激進(jìn)：“拿1萬億美元，繞過所有抗議和法規(guī)，在全國各地布滿小型核反應(yīng)堆，建立全新的國家電網(wǎng)，用核能防御部隊(duì)保護(hù)每個(gè)設(shè)施。這不僅是為了AI，而是為了國家經(jīng)濟(jì)安全。只有廉價(jià)充沛的能源，才能讓美國在競爭中跟上中國，才有希望通過經(jīng)濟(jì)增長償還國債。”

這個(gè)建議把AI議題拉到了國家生存的高度。杰克·克拉克強(qiáng)烈贊同：“AI將在經(jīng)濟(jì)中扮演重要角色，它從根本上依賴底層基礎(chǔ)設(shè)施。就像歷史上的大規(guī)模電氣化、道路建設(shè)一樣，我們需要為能源做同樣的事。大型AI數(shù)據(jù)中心是新型能源技術(shù)的理想測試客戶，我特別期待AI能源需求與核技術(shù)的融合?！?/p>

在所有關(guān)于模型參數(shù)、訓(xùn)練算法、應(yīng)用場景的辯論背后，電力正在成為那個(gè)無法繞過的物理約束。

這場圓桌討論沒有給出標(biāo)準(zhǔn)答案，卻留下了兩個(gè)值得深思的問題：

第一，AI的價(jià)值最終會(huì)流向誰？

如果伯里的自動(dòng)扶梯理論成立，AI供應(yīng)鏈上的所有公司都無法獲得超額利潤，那么價(jià)值只會(huì)流向終端客戶。這對(duì)人類整體是好事，但對(duì)投資者卻是噩夢。

而如果杰克·克拉克是對(duì)的，AI能力的快速迭代終將形成護(hù)城河，那么現(xiàn)在就是押注未來巨頭的最佳時(shí)機(jī)。

第二，我們該相信時(shí)間表還是數(shù)據(jù)？

德瓦克什指出，AI實(shí)驗(yàn)室的收入增長速度（2026年是400億還是1000億美元）比任何基準(zhǔn)測試都更能說明問題。

但伯里堅(jiān)持，在看到應(yīng)用層收入突破5000億美元或數(shù)百萬工作崗位被AI取代之前，一切都只是信仰。

歷史會(huì)給出答案，但在那之前，我們都在這場萬億美元的豪賭中各自下注。

全文翻譯

主持人帕特里克·麥肯齊(Patrick McKenzie)：麥克爾·伯里在大家都買入時(shí)準(zhǔn)確預(yù)測了次貸危機(jī)。現(xiàn)在，他看著數(shù)萬億美元涌入AI基礎(chǔ)設(shè)施，并對(duì)此持懷疑態(tài)度。杰克·克拉克是Anthropic的聯(lián)合創(chuàng)始人，這是致力于構(gòu)建未來的領(lǐng)先AI實(shí)驗(yàn)室之一。德瓦克什·帕特爾采訪過從馬克·扎克伯格到泰勒·科溫的每一個(gè)人，探討這一切將走向何方。我們將他們聚集在一個(gè)谷歌文檔中，由帕特里克·麥肯齊主持，并提出問題：AI究竟是真材實(shí)料，還是我們正在目睹一場歷史性的資本錯(cuò)配實(shí)時(shí)上演？

帕特里克·麥肯齊:你被聘為過去幾年的歷史學(xué)家。請(qǐng)簡明扼要地?cái)⑹鲎浴禔ttention Is All You Need》（Transformer論文）以來建立了什么。關(guān)于2025年的情況，有哪些會(huì)讓2017年的觀眾感到驚訝？哪些消息靈通人士的預(yù)測沒有應(yīng)驗(yàn)？請(qǐng)像對(duì)你所在領(lǐng)域（研究、政策或市場）的人那樣講述這個(gè)故事。

杰克·克拉克:回到2017年，大多數(shù)人押注通往真正通用系統(tǒng)的路徑是通過在日益困難的任務(wù)課程上從頭開始訓(xùn)練智能體（Agents），并通過這種方式創(chuàng)造一個(gè)具有通用能力的系統(tǒng)。這在所有主要實(shí)驗(yàn)室（如DeepMind和OpenAI）的研究項(xiàng)目中都有體現(xiàn)，他們試圖在《星際爭霸》、《Dota2》和AlphaGo等游戲中訓(xùn)練超人類玩家。我認(rèn)為這基本上是一個(gè)“白板”（tabularasa）賭注——從一個(gè)空白的智能體開始，把它放在某種環(huán)境里烘焙，直到它變聰明。

當(dāng)然，正如我們現(xiàn)在所知，這并沒有真正導(dǎo)致通用智能——但它確實(shí)導(dǎo)致了在其訓(xùn)練的任務(wù)分布內(nèi)的超人類智能體。

此時(shí)，人們開始嘗試另一種方法，在數(shù)據(jù)集上進(jìn)行大規(guī)模訓(xùn)練，并試圖構(gòu)建能夠從這些分布中預(yù)測和生成的模型。這種方法最終極其有效，并受到兩件關(guān)鍵事情的加速：

1. 來自《Attention Is All You Need》的Transformer框架，它使這種大規(guī)模預(yù)訓(xùn)練效率大大提高；

2. “縮放定律”（ScalingLaws）的大致并行發(fā)展，或者是這樣一個(gè)基本見解：你可以模擬出預(yù)訓(xùn)練模型的能力與你投入的基礎(chǔ)資源（數(shù)據(jù)、算力）之間的關(guān)系。

3. 通過結(jié)合Transformer和縮放定律的見解，少數(shù)人正確地押注：你可以通過大規(guī)模擴(kuò)展數(shù)據(jù)和算力來獲得通用系統(tǒng)。

現(xiàn)在，有趣的是，事情又回到了原點(diǎn)：人們開始再次構(gòu)建智能體，但這一次，它們被灌輸了來自預(yù)訓(xùn)練模型的所有見解。DeepMind的SIMA2論文就是一個(gè)很好的例子，他們制作了一個(gè)用于探索3D環(huán)境的通用智能體，它依托于底層的預(yù)訓(xùn)練Gemini模型。另一個(gè)例子是ClaudeCode，這是一個(gè)編碼智能體，其底層能力源自一個(gè)大型預(yù)訓(xùn)練模型。

帕特里克:由于大語言模型（LLM）是可編程且廣泛可用的，包括相對(duì)于2017年雖然受限但仍然強(qiáng)大的開源軟件（OSS）版本，我們現(xiàn)在已經(jīng)到了這樣一個(gè)地步：任何進(jìn)一步的AI能力開發(fā)（或任何其他有趣的事情）都不需要在比我們目前擁有的更差的認(rèn)知基底上構(gòu)建。我認(rèn)為這是業(yè)內(nèi)人士最了解、而政策制定者和外界最不了解的事情之一：“你今天看到的只是地板，不是天花板”。

每一個(gè)未來的《星際爭霸》AI都已經(jīng)閱讀了中文原版的《孫子兵法》，除非其設(shè)計(jì)者評(píng)估認(rèn)為這會(huì)讓它在防御ZergRush（蟲族快攻）時(shí)表現(xiàn)更差。

杰克:是的，我們在Anthropic經(jīng)常對(duì)政策制定者說的一句話是“這是它這輩子最差的時(shí)候了！”，很難向他們傳達(dá)這最終有多重要。另一件反直覺的事情是能力提升的速度有多快——目前的一個(gè)例子是有多少人正在使用ClaudeCode中的Opus4.5，并說著各種版本的“哇，這東西比以前好太多了”。如果你上次玩LLM是在11月，你現(xiàn)在對(duì)前沿技術(shù)的判斷已經(jīng)嚴(yán)重失準(zhǔn)了。

麥克爾·伯里:從我的角度來看，在2017年，AI還不是LLM。AI是通用人工智能（AGI）。我認(rèn)為那時(shí)人們并沒有把LLM視為AI。我是看科幻小說長大的，它們預(yù)測了很多東西，但沒有一個(gè)把“AI”描繪成某種搜索密集型的聊天機(jī)器人。

關(guān)于《Attention Is All You Need》及其引入的Transformer模型，這些都是谷歌工程師使用Tensor完成的，早在2010年代中期，AI并不是一個(gè)陌生的概念。神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)初創(chuàng)公司很常見，AI在會(huì)議中被頻繁提及。谷歌早就擁有了大語言模型，只不過是內(nèi)部使用的。

讓我感到最大的意外之一是，鑒于谷歌在搜索和Android領(lǐng)域的統(tǒng)治地位，以及在芯片和軟件方面的優(yōu)勢，它竟然沒有一路領(lǐng)跑。

另一個(gè)意外是，我原以為專用集成電路（ASIC）會(huì)更早被采用，小語言模型（SLM）也會(huì)更早被采用。英偉達(dá)（英偉達(dá)）在推理領(lǐng)域能維持這么久的統(tǒng)治地位令人震驚。

讓我感到最大的意外是ChatGPT開啟了這場支出熱潮。ChatGPT的用例從一開始就普遍受限——搜索、學(xué)生作弊和編程?，F(xiàn)在有更適合編程的LLM。但這竟然是一個(gè)聊天機(jī)器人開啟了數(shù)萬億美元的支出。

說到支出，我認(rèn)為德瓦克什采訪薩提亞·納德拉（SatyaNadella）的最佳時(shí)刻之一是承認(rèn)所有大型軟件公司現(xiàn)在都是硬件公司了，屬于資本密集型，我不確定跟蹤它們的分析師是否真的知道什么是“維護(hù)性資本支出”。

德瓦克什·帕特爾:說得好。AI領(lǐng)域的領(lǐng)先優(yōu)勢如此不可持續(xù)，確實(shí)令人驚訝。當(dāng)然，在2017年，谷歌遙遙領(lǐng)先。幾年前，OpenAI似乎遙遙領(lǐng)先。似乎有某種力量（可能是人才挖角、謠言工廠或逆向工程）目前為止抵消了任何單一實(shí)驗(yàn)室可能擁有的滾雪球優(yōu)勢。相反，三巨頭每隔幾個(gè)月就在領(lǐng)獎(jiǎng)臺(tái)上輪換位置。我很好奇“遞歸超級(jí)智能”是否真的能改變這一點(diǎn)，還是我們應(yīng)該預(yù)期這種激烈的競爭會(huì)永遠(yuǎn)持續(xù)下去。

杰克:關(guān)于遞歸，所有前沿實(shí)驗(yàn)室都在使用AI工具加速自己的開發(fā)人員，但這并不十分利索。它似乎具有“短板效應(yīng)”——例如，如果你現(xiàn)在能產(chǎn)出10倍的代碼，但你的代碼審查工具只改進(jìn)了2倍，你就看不到巨大的加速。一個(gè)巨大的懸而未決的問題是是否可能完全閉合這個(gè)循環(huán)，在這種情況下，你可能會(huì)看到某種復(fù)利式的研發(fā)優(yōu)勢。

AI工具真的能提高生產(chǎn)力嗎？

德瓦克什:價(jià)值百萬美元的問題是：究竟是METR的生產(chǎn)力研究（顯示在開發(fā)者非常熟悉的代碼庫中，使用編碼工具會(huì)導(dǎo)致合并PullRequest的時(shí)間大約減少20%），還是獨(dú)立編碼任務(wù)的人類等效時(shí)間范圍（已經(jīng)在數(shù)小時(shí)范圍內(nèi)，并且每4到7個(gè)月翻一番），更能衡量實(shí)驗(yàn)室研究人員和工程師實(shí)際上獲得的加速？

我這里沒有直接經(jīng)驗(yàn)，但我猜更接近前者，因?yàn)槟壳斑€沒有很好的反饋驗(yàn)證循環(huán)，而且標(biāo)準(zhǔn)是開放式的（可維護(hù)性、品味等）。

杰克:同意，這是一個(gè)關(guān)鍵問題——而且數(shù)據(jù)是相互矛盾且稀疏的。例如，我們在Anthropic對(duì)開發(fā)人員進(jìn)行了一項(xiàng)調(diào)查，看到受訪的60%使用Claude工作的人自稱生產(chǎn)力提高了50%。

但像METR這樣的研究似乎與此相矛盾。我們需要更好的數(shù)據(jù)，特別是對(duì)AI實(shí)驗(yàn)室內(nèi)部和外部開發(fā)人員的監(jiān)測，以了解發(fā)生了什么。

把視野放寬一點(diǎn)，編碼工具的大規(guī)模和前所未有的采用確實(shí)表明人們從中看到了一些重大的主觀益處——如果越來越多的開發(fā)人員熱情地讓自己變得更低效，那是很不合常理的。

德瓦克什:不想在這個(gè)問題上鉆牛角尖，但自稱的生產(chǎn)力遠(yuǎn)高于——甚至可能與——真實(shí)生產(chǎn)力背道而馳，這正是METR研究預(yù)測到的。

杰克:是的，同意。不透露太多，我們正在專門考慮監(jiān)測手段，弄清楚這里的“真相”是什么，因?yàn)槿藗冏晕覉?bào)告的內(nèi)容最終可能與現(xiàn)實(shí)不同。希望我們在2026年能在這方面有一些研究產(chǎn)出！

哪家公司會(huì)贏？

麥克爾·伯里:你們認(rèn)為領(lǐng)獎(jiǎng)臺(tái)會(huì)繼續(xù)輪換嗎？據(jù)我所知，谷歌在AWS和微軟的開發(fā)者中正贏得青睞。而且公司內(nèi)部的“搜索慣性”似乎已經(jīng)被清除了。

德瓦克什:有趣。在我看來競爭比以往任何時(shí)候都激烈。X上對(duì)Opus 4.5和Gemini 3.5 Pro的評(píng)價(jià)都很高。對(duì)于哪家公司會(huì)贏沒有定論，但這絕對(duì)看起來尚未塵埃落定。

杰克:我也覺得競爭比以往任何時(shí)候都激烈！

德瓦克什:很好奇大家對(duì)此的看法：Anthropic、OpenAI或谷歌能承受多少次失敗的模型訓(xùn)練/啞彈？考慮到需要依靠收入和市場情緒不斷融資（順便問一句：到底是為什么融資？）。

麥克爾·伯里:谷歌搜索的秘密一直在于它非常便宜，因此那些無法貨幣化的信息搜索（占80%或更多）不會(huì)給公司積累虧損。我認(rèn)為這是目前生成式AI和LLM的根本問題——它們太貴了。很難理解盈利模式是什么，或者任何一個(gè)模型的競爭優(yōu)勢將是什么——它是能收費(fèi)更高，還是運(yùn)行更便宜？

也許谷歌最終會(huì)成為那個(gè)運(yùn)行成本最低的公司，并贏得這個(gè)最終變成大宗商品經(jīng)濟(jì)的市場。

德瓦克什:好觀點(diǎn)。特別是如果你認(rèn)為過去一年的許多/大部分收益是推理規(guī)模擴(kuò)大的結(jié)果，這需要指數(shù)級(jí)增加的可變成本來維持。歸根結(jié)底，某樣?xùn)|西的價(jià)格上限是其替代成本。因此，只有當(dāng)進(jìn)步繼續(xù)保持快速，并且正如杰克所說，最終變得自我復(fù)利時(shí)，基礎(chǔ)模型公司才能收取高利潤率（目前它們似乎正在這樣做）。

為什么AI還沒搶走我們所有的工作？

德瓦克什:自動(dòng)化工作和做人類所做的事情所涉及的內(nèi)容之多，真的令人驚訝。我們剛剛跨過了許多關(guān)于AGI的常識(shí)性定義——圖靈測試甚至都不值得評(píng)論了；我們擁有的模型可以推理并解決困難的、開放式的編碼和數(shù)學(xué)問題。

如果你在2017年向我展示Gemini 3或Claude 4.5 Opus，我會(huì)認(rèn)為它會(huì)讓一半的白領(lǐng)失業(yè)。然而，AI對(duì)勞動(dòng)力市場的影響需要用“電子表格顯微鏡”才能看到，如果確實(shí)存在的話。

我也會(huì)對(duì)AI私人投資的規(guī)模和速度感到驚訝。就在幾年前，人們還在談?wù)揂GI必須是一個(gè)政府主導(dǎo)的“曼哈頓式”項(xiàng)目，因?yàn)槟鞘悄銓⒔?jīng)濟(jì)轉(zhuǎn)化為算力和數(shù)據(jù)引擎的唯一途徑。而目前看來，老式的市場經(jīng)濟(jì)完全可以維持多個(gè)GDP百分比的AI投資。

麥克爾·伯里:這是一個(gè)好點(diǎn)子，德瓦克什，關(guān)于圖靈測試——那確實(shí)討論了好一陣子。在過去，例如在工業(yè)革命和服務(wù)業(yè)革命期間，對(duì)勞動(dòng)力的影響如此巨大，以至于實(shí)行并擴(kuò)大了義務(wù)教育，以便讓年輕人更晚進(jìn)入勞動(dòng)力市場。我們肯定還沒有看到類似的情況。

杰克:是的，德瓦克什和麥克爾·伯里，AI社區(qū)的一個(gè)真理是，他們不斷構(gòu)建據(jù)稱能衡量真實(shí)智能的困難任務(wù)，然后AI系統(tǒng)超越了這些基準(zhǔn)，你會(huì)發(fā)現(xiàn)自己面對(duì)的是表面上非常有能力，但仍可能犯下任何人類都會(huì)認(rèn)為是離奇或反直覺錯(cuò)誤的東西。

最近的一個(gè)例子是，根據(jù)基準(zhǔn)測試，LLM在一系列據(jù)稱困難的認(rèn)知任務(wù)上得分為“超人類”，但在犯錯(cuò)時(shí)無法自我糾正。這現(xiàn)在正在改善，但它說明了AI模型的弱點(diǎn)可以有多么反直覺。而你經(jīng)常在大規(guī)模改進(jìn)的同時(shí)發(fā)現(xiàn)它們。

德瓦克什:我想知道反過來是否也成立——人類是否也會(huì)可靠地犯下一類LLM會(huì)認(rèn)為是離奇或反直覺的錯(cuò)誤，哈哈。LLM實(shí)際上是比人類更參差不齊，還是只是以不同的方式參差不齊？

帕特里克:借用德瓦克什書中的一個(gè)觀察，LLM在一個(gè)世俗方面是超人類的，那就是它們說的語言比任何人類都多，而且比幾乎所有多語言者能達(dá)到的水平都要高。

令人難以置信的是，這甚至是偶然發(fā)生的，即使實(shí)驗(yàn)室沒有專門為此進(jìn)行訓(xùn)練。我見過的最令人目瞪口呆的演示之一是，一個(gè)僅在旨在包含英語文檔的語料庫上訓(xùn)練的LLM，卻能夠以大致專業(yè)翻譯的標(biāo)準(zhǔn)將CNN新聞文章翻譯成日語。

從這個(gè)角度來看，一個(gè)沒有經(jīng)過禮貌訓(xùn)練的LLM可能會(huì)說：“人類真是離奇而參差不齊；看看他們中有多少人生活在一個(gè)有書的世界里卻不會(huì)說日語。”

為什么許多工人沒有使用AI

帕特里克:編程似乎是AI廣泛工業(yè)化采用的前沿，像Cursor這樣的公司收入飛速增長，有品味的技術(shù)專家開始使用ClaudeCode和OpenAICodex等工具，以及圍繞“氛圍編碼”（vibe coding）的氛圍。

這導(dǎo)致了對(duì)AI熱情明顯的嚴(yán)重不對(duì)稱，因?yàn)榇蠖鄶?shù)人不是程序員。哪個(gè)行業(yè)接下來會(huì)發(fā)生變化？什么變化會(huì)讓這一點(diǎn)在收入、就業(yè)或價(jià)格中顯現(xiàn)出來，而不僅僅是演示？

杰克:編程有一個(gè)很好的特性，即相對(duì)“閉環(huán)”。你使用LLM生成或調(diào)整代碼，然后驗(yàn)證并推送到生產(chǎn)環(huán)境。確實(shí)需要更廣泛的工具到來，才能讓LLM在編程以外的領(lǐng)域呈現(xiàn)這種“閉環(huán)”特性。

例如，網(wǎng)絡(luò)搜索能力的創(chuàng)建以及像模型上下文協(xié)議（MCP）連接之類的東西的到來，使得LLM能夠?qū)⑵洹伴]環(huán)”效用大規(guī)模擴(kuò)展到編程之外。

舉個(gè)例子，我最近一直在研究各種東西的成本曲線（例如每磅入軌成本，或太陽能每瓦成本），這是你在這些工具出現(xiàn)之前可以用LLM研究的東西，但它有巨大的摩擦，迫使你在LLM和其他所有東西之間來回切換。現(xiàn)在摩擦消除了，你看到了更高的采用率。

因此，我預(yù)計(jì)我們將看到發(fā)生在程序員身上的事情更廣泛地發(fā)生在知識(shí)工作者身上。這感覺應(yīng)該會(huì)在科學(xué)研究、法律、學(xué)術(shù)界、咨詢和其他領(lǐng)域以一種分散但廣泛的方式顯現(xiàn)出來。

麥克爾·伯里:歸根結(jié)底，AI必須由某人購買。外面有人為商品或服務(wù)買單。那就是GDP。而這種支出的增長速度是GDP的速度，2%到4%——或許對(duì)于擁有定價(jià)權(quán)的公司會(huì)有一些提升，但在AI的未來這似乎不太可能。

經(jīng)濟(jì)并沒有神奇擴(kuò)張的蛋糕。它們只有算術(shù)上受限的蛋糕。沒什么花哨的。整個(gè)軟件蛋糕——運(yùn)行各種企業(yè)和創(chuàng)意功能的SaaS軟件——不到1萬億美元。這就是為什么我一直回到基礎(chǔ)設(shè)施與應(yīng)用的比例。

英偉達(dá)出售4000億美元的芯片，而終端用戶的AI產(chǎn)品收入不到1000億美元。

AI必須提高生產(chǎn)力并創(chuàng)造不蠶食其他類別的新支出類別。這都很難做到。AI會(huì)足夠提高生產(chǎn)力嗎？這是有爭議的。資本支出周期是基于信仰和錯(cuò)失恐懼癥（FOMO）的。目前還沒有人用行得通的數(shù)字來證明。

外面有一個(gè)更簡單的敘事，即AI會(huì)讓一切變得更好，支出將會(huì)爆炸。它更有可能把支出吸進(jìn)去。如果AI用50美元的席位取代了500美元的席位許可，這對(duì)生產(chǎn)力來說是好事，但對(duì)生產(chǎn)力支出是通縮的。而且獲得的生產(chǎn)力很可能被所有競爭對(duì)手共享。

德瓦克什:麥克爾，這不就是“勞動(dòng)總量謬誤”嗎？即認(rèn)為有固定數(shù)量的軟件要寫，我們可以以此為上限來衡量AI對(duì)軟件的影響？

麥克爾·伯里:新市場確實(shí)會(huì)出現(xiàn)，但它們的發(fā)展速度比受到強(qiáng)烈激勵(lì)的未來學(xué)家所相信的要慢。這一直是真的。人口統(tǒng)計(jì)和總潛在市場（TAM）往往只是脫離現(xiàn)實(shí)的營銷噱頭。中國的人口正在萎縮。歐洲的正在萎縮。美國是唯一一個(gè)人口還在增長的主要西方國家，那是因?yàn)橐泼瘢@也被政治化了。FOMO是一種很厲害的毒藥。你看看Apple或Microsoft的一些評(píng)論，似乎他們意識(shí)到了這一點(diǎn)。

德瓦克什:插一句，有趣的是，AI恰好在我們正需要它來把我們從未來幾十年經(jīng)濟(jì)本會(huì)陷入的人口結(jié)構(gòu)泥潭中拯救出來的時(shí)候出現(xiàn)了。

麥克爾·伯里:是的，德瓦克什。在醫(yī)療領(lǐng)域，存在真正的短缺，未來沒有希望有足夠多的人類醫(yī)生。好的醫(yī)療保健必須變得更便宜，需要技術(shù)來擴(kuò)展真正醫(yī)療專業(yè)知識(shí)的覆蓋范圍。

工程師會(huì)失業(yè)嗎？

帕特里克:Apple、Amazon、谷歌、Facebook、微軟目前雇傭了大約50萬名工程師。給出你對(duì)2035年這個(gè)數(shù)字的預(yù)測并解釋你的思路。或者論證人數(shù)是錯(cuò)誤的變量，并說出你會(huì)追蹤的資產(chǎn)負(fù)債表或生產(chǎn)力指標(biāo)。

麥克爾·伯里:從2000年開始，Microsoft的股票在14年里原地踏步，但增加了18000名員工。事實(shí)上，Cisco、Dell和Intel的人數(shù)幾乎沒有變化，盡管股價(jià)大跌。所以我認(rèn)為這是錯(cuò)誤的變量。

它沒有告訴我們關(guān)于價(jià)值創(chuàng)造的任何信息，尤其是對(duì)于現(xiàn)金充裕的公司以及處于壟斷、雙寡頭或寡頭壟斷情況的公司。

我認(rèn)為這（人數(shù)）會(huì)更低，或者不會(huì)高出多少，因?yàn)槲艺J(rèn)為我們正走向一個(gè)非常長期的低迷。超大規(guī)模企業(yè)在2022年股價(jià)下跌時(shí)解雇了員工，并在股價(jià)上漲時(shí)雇回了大部分人。這僅僅是幾年的事。

我會(huì)追蹤基于股份的薪酬（SBC）的全口徑成本，然后再說生產(chǎn)力正在創(chuàng)紀(jì)錄。在英偉達(dá)，我計(jì)算出大約一半的利潤被與股票掛鉤的薪酬消除了，這些薪酬將價(jià)值轉(zhuǎn)移給了員工。好吧，如果一半的員工現(xiàn)在身價(jià)2500萬美元，那么這些員工的生產(chǎn)力收益是多少？更不用說，計(jì)入準(zhǔn)確SBC成本后的利潤率會(huì)低得多。

壓倒一切的指標(biāo)是投入資本回報(bào)率（ROIC），而這些軟件公司的ROIC曾經(jīng)非常高?，F(xiàn)在它們正在成為資本密集型的硬件公司，ROIC肯定會(huì)下降，這將長期對(duì)股價(jià)構(gòu)成壓力。沒有什么比ROIC的方向——向上還是向下，以及以什么速度——更能預(yù)測市場的長期趨勢了?，F(xiàn)在這些公司的ROIC正在快速下降，這種情況將持續(xù)到2035年。

在德瓦克什的采訪中，薩提亞·納德拉說他正在尋求通過軟件在沉重的資本支出周期中維持ROIC。我看不到這一點(diǎn)，甚至對(duì)納德拉來說，這聽起來也只是一個(gè)希望。

德瓦克什:問個(gè)天真的問題，為什么ROIC比絕對(duì)回報(bào)更重要？我寧愿擁有一家能夠持續(xù)增長的大企業(yè)（盡管作為投資的一小部分），也不愿擁有一家基本上在印鈔票但規(guī)模有上限的小企業(yè)。

許多大型科技公司的ROIC較低，但它們在未來二十年的潛在市場已經(jīng)從廣告（每年4000億美元收入）增加到勞動(dòng)力（每年數(shù)十萬億美元收入）。

麥克爾·伯里:投入資本回報(bào)率是衡量公司還剩下多少機(jī)會(huì)的指標(biāo)。從我的角度來看，我見過許多通過舉債收購其他公司來做大的整合案例。

這讓ROIC變得冷酷無情。如果這些購買的回報(bào)最終低于債務(wù)成本，公司就會(huì)像WorldCom一樣倒閉。

在某個(gè)時(shí)刻，這種AI建設(shè)支出必須產(chǎn)生高于該投資成本的回報(bào)，否則就沒有增加經(jīng)濟(jì)價(jià)值。如果一家公司之所以變大是因?yàn)樗枇烁噱X或?qū)⑺鞋F(xiàn)金流花在了低回報(bào)的事情上，那對(duì)投資者來說并不是一個(gè)吸引人的品質(zhì)，倍數(shù)將會(huì)下降。有許多非科技公司在印鈔票，除了通過收購之外沒有真正的增長前景，它們的市盈率約為8倍。

錢去哪兒了？

帕特里克:從資本周期的角度來看，你認(rèn)為我們在AI建設(shè)中處于什么位置——早期過度投資、中期洗牌，還是與過去的科技繁榮結(jié)構(gòu)性不同？什么會(huì)改變你的想法？

麥克爾·伯里:我確實(shí)認(rèn)為它與之前的繁榮不同，除了資本支出顯著短暫這一點(diǎn)。芯片現(xiàn)在每年都在更新?lián)Q代；今天的數(shù)據(jù)中心將無法處理幾年后的芯片。人們幾乎可以爭辯說，其中很多應(yīng)該費(fèi)用化，而不是資本化?；蛘咴趦?、三、四年內(nèi)折舊。

另一個(gè)巨大的區(qū)別是，私人信貸對(duì)這場繁榮的融資與公共資本市場一樣多或更多。私人信貸是一個(gè)模糊的領(lǐng)域，但期限錯(cuò)配非常突出——其中大部分被證券化，好像資產(chǎn)能持續(xù)二十年，同時(shí)給超大規(guī)模企業(yè)每四到五年退出的機(jī)會(huì)。這簡直是在自找麻煩。

當(dāng)然，花錢的人是地球上最富有的公司，但無論是來自現(xiàn)金還是資本市場，大筆支出就是大筆支出，計(jì)劃中的支出壓倒了即使是今天巨大的超大規(guī)模企業(yè)的資產(chǎn)負(fù)債表和現(xiàn)金流。

此外，在建工程（CIP）現(xiàn)在是我認(rèn)為已經(jīng)被使用的一種會(huì)計(jì)技巧。尚未“投入使用”的資本設(shè)備不開始折舊或計(jì)入收入。它可以永遠(yuǎn)在那里。我想象很多擱淺資產(chǎn)將被隱藏在CIP中以保護(hù)收入，我認(rèn)為我們已經(jīng)看到了這種潛力。

在德瓦克什的采訪中，納德拉說他撤回了一些項(xiàng)目并放慢了建設(shè)速度，因?yàn)樗幌朐谶@一代芯片上被卡住四五年的折舊。這有點(diǎn)像是一個(gè)確鑿的證據(jù)聲明。

我們現(xiàn)在處于周期中期——過了股票會(huì)因進(jìn)一步擴(kuò)建而獎(jiǎng)勵(lì)投資者的點(diǎn)，正在進(jìn)入真實(shí)成本和收入缺乏開始顯現(xiàn)的時(shí)期。

在過去的周期中，股票和資本市場在大約一半的時(shí)候達(dá)到頂峰，其余的資本支出發(fā)生在對(duì)相關(guān)資產(chǎn)逐漸悲觀或現(xiàn)實(shí)的看法降臨之際。

德瓦克什:我認(rèn)為這完全取決于AI是否繼續(xù)快速改進(jìn)。如果你真的可以在B200（英偉達(dá)的B200GPU）上運(yùn)行最高效的人類大腦，那么我們顯然投資不足。我認(rèn)為應(yīng)用層的收入目前不如關(guān)于AI能力本身的原始預(yù)測有信息量。

杰克:同意這一點(diǎn)——近年來能力的進(jìn)步程度令人深感驚訝，并導(dǎo)致了AI利用率的大規(guī)模增長。在未來，模型能力可能會(huì)有進(jìn)一步的階躍式增長，這些可能會(huì)對(duì)經(jīng)濟(jì)產(chǎn)生極其重大的影響。

市場搞錯(cuò)了什么

帕特里克:價(jià)值在AI供應(yīng)鏈中累積在哪里？這與最近或歷史上的技術(shù)進(jìn)步有何不同？你認(rèn)為市場目前對(duì)誰的看法最錯(cuò)誤？

麥克爾·伯里:嗯，歷史上，在所有行業(yè)中，價(jià)值都累積給那些擁有持久競爭優(yōu)勢的人，表現(xiàn)為定價(jià)權(quán)或不可觸及的成本或分銷優(yōu)勢。

目前尚不清楚這里的支出是否會(huì)導(dǎo)致這種情況。

WarrenBuffett在60年代末擁有一家百貨商店。當(dāng)街對(duì)面的百貨商店裝了一部自動(dòng)扶梯時(shí)，他也必須跟著裝一部。最終，沒人從這個(gè)昂貴的項(xiàng)目中獲益。利潤率沒有持久的提升，成本結(jié)構(gòu)也沒改善，兩家店還是處在完全相同的競爭位置上。這就是大多數(shù)AI應(yīng)用最終的結(jié)局。

這就是為什么數(shù)萬億美元的支出卻沒有通往實(shí)體經(jīng)濟(jì)利用的清晰路徑如此令人擔(dān)憂。大多數(shù)公司不會(huì)受益，因?yàn)樗麄兊母偁帉?duì)手將受益于同樣的程度，而沒有一方會(huì)因此擁有競爭優(yōu)勢。

我認(rèn)為市場對(duì)AI的兩個(gè)典型代表錯(cuò)得最離譜：英偉達(dá)和Palantir。這是兩家最幸運(yùn)的公司。他們適應(yīng)得很好，但他們很幸運(yùn)，因?yàn)楫?dāng)這一切開始時(shí)，他們都沒有為AI設(shè)計(jì)產(chǎn)品。但他們正被這樣使用。

英偉達(dá)的優(yōu)勢并不持久。SLM和ASIC是大多數(shù)AI用例的未來。如果有必要，它們將向后兼容CUDA。英偉達(dá)是在競爭對(duì)手帶著完全不同的方法進(jìn)來之前的那個(gè)耗電、骯臟的臨時(shí)解決方案。

Palantir的CEO把我比作壞人，因?yàn)橄胂笾形覍?duì)他的公司下了十億美元的賭注。那不是一個(gè)自信的CEO。他正在竭盡全力營銷以保持這種勢頭，但它會(huì)滑落?？鄢诠善钡男匠旰?，幾乎沒有收益。

德瓦克什:AI實(shí)驗(yàn)室是否能從遞歸自我改進(jìn)效應(yīng)中獲得持久的競爭優(yōu)勢還有待觀察。但是，如果杰克是對(duì)的，AI開發(fā)人員應(yīng)該已經(jīng)看到了巨大的生產(chǎn)力收益，那么為什么現(xiàn)在的競爭比以往任何時(shí)候都更激烈？

要么是這種內(nèi)部“吃自家狗糧”無法維持競爭優(yōu)勢，要么是AI的生產(chǎn)力收益比看起來要小。

如果結(jié)果證明AI堆棧中的任何人都無法獲得瘋狂的利潤，以及AI仍然被證明是一件大事，那么顯然價(jià)值歸于客戶。這在我聽來很棒。

麥克爾·伯里:在自動(dòng)扶梯的例子中，唯一的價(jià)值歸于客戶。如果生產(chǎn)者或提供者不能收取壟斷租金，情況總是如此。

什么會(huì)改變他們的想法

帕特里克:2026年的什么頭條新聞——技術(shù)上的或金融上的——會(huì)讓你感到驚訝，并導(dǎo)致你重新校準(zhǔn)對(duì)AI進(jìn)展或估值的總體看法？回顧過去，迄今為止最大的意外或重新校準(zhǔn)是什么？

麥克爾·伯里:會(huì)導(dǎo)致我重新校準(zhǔn)的最大意外將是自主AI智能體取代了最大公司的數(shù)百萬個(gè)工作崗位。這會(huì)震驚我，但不一定能幫助我理解持久優(yōu)勢在哪里。又是那個(gè)巴菲特自動(dòng)扶梯的例子。

另一個(gè)將是應(yīng)用層收入達(dá)到5000億美元或更多，因?yàn)椤皻⑹旨?jí)應(yīng)用”的激增。

目前，我們將看到兩件事之一：要么英偉達(dá)的芯片能用五到六年，因此人們需要的芯片更少；要么它們只能用兩到三年，超大規(guī)模企業(yè)的收益將崩潰，私人信貸將被摧毀。

回顧過去，迄今為止最大的意外是：谷歌沒有一路領(lǐng)跑——《Attention Is All You Need》的八位作者都是谷歌員工；他們擁有搜索、Gmail、Android，甚至LLM和芯片，但他們搞砸了，給了條件遠(yuǎn)不如他們的競爭對(duì)手一個(gè)機(jī)會(huì)。谷歌在AI領(lǐng)域追趕一家初創(chuàng)公司：這簡直令人難以置信。

ChatGPT——一個(gè)聊天機(jī)器人開啟了一場數(shù)萬億美元的基礎(chǔ)設(shè)施競賽。這就像有人制造了一個(gè)原型機(jī)器人，然后世界上的每個(gè)企業(yè)都開始為機(jī)器人未來進(jìn)行投資。

英偉達(dá)在推理時(shí)代仍保持統(tǒng)治地位。我原本預(yù)計(jì)ASIC和SLM到現(xiàn)在會(huì)占主導(dǎo)地位，并且我們將遠(yuǎn)遠(yuǎn)超越提示工程。也許對(duì)英偉達(dá)的迷戀實(shí)際上阻礙了參與者?；蛘哂ミ_(dá)的反競爭行為阻礙了。

德瓦克什:對(duì)我來說最大的意外將是：2026年累計(jì)AI實(shí)驗(yàn)室收入低于400億美元或高于1000億美元。這將意味著事情比我預(yù)期的要快得多或慢得多。

持續(xù)學(xué)習(xí)被解決。不是像GPT-3“解決”上下文學(xué)習(xí)那樣，而是像GPT-5.2在從上下文中理解的能力上實(shí)際上幾乎像人類一樣。如果與模型一起工作就像復(fù)制一個(gè)已經(jīng)與你一起工作了六個(gè)月的熟練員工，而不是在他工作的第一小時(shí)獲得他的勞動(dòng)，我認(rèn)為這構(gòu)成了AI能力的巨大解鎖。

我認(rèn)為自2020年以來，通往AGI的時(shí)間表已經(jīng)大大縮短。那時(shí)，你可以分配一些概率給將GPT-3擴(kuò)展一千倍并達(dá)到AGI，以及一些概率給我們在完全錯(cuò)誤的軌道上，必須等到本世紀(jì)末。如果進(jìn)展打破了趨勢線，并指向在未來5到20年內(nèi)出現(xiàn)真正的人類可替代智能，那將是對(duì)我來說最大的意外。

杰克:如果“縮放撞墻”，那將是非常令人驚訝的，并將對(duì)基礎(chǔ)研究范式以及更廣泛的AI經(jīng)濟(jì)產(chǎn)生非常重大的影響。顯然，基礎(chǔ)設(shè)施的建設(shè)，包括為訓(xùn)練未來AI模型而在設(shè)施上的巨額投資，表明人們正在押注并非如此。

另一件我會(huì)覺得驚訝的事情是，如果結(jié)合了提高分布式訓(xùn)練效率的技術(shù)突破，以及一組參與者聚集了足夠的計(jì)算機(jī)來訓(xùn)練一個(gè)非常強(qiáng)大的系統(tǒng)。

如果發(fā)生這種情況，這將表明你不僅可以擁有開放權(quán)重模型，還可以擁有一種開放模型開發(fā)形式，即不需要一個(gè)巨大的單一實(shí)體（例如公司）來訓(xùn)練前沿模型。這將改變AI的政治經(jīng)濟(jì)學(xué)，并在政策上產(chǎn)生極其重大的影響，特別是在前沿能力的擴(kuò)散方面。Epoch有一個(gè)關(guān)于分布式訓(xùn)練的很好的分析，人們可以參考。

他們實(shí)際上如何使用LLM

帕特里克:你上一次與LLM進(jìn)行的職業(yè)上重要的互動(dòng)是什么？如果需要，可以隱去具體細(xì)節(jié)。在那次互動(dòng)中，你與LLM的關(guān)系如何？

麥克爾·伯里:我現(xiàn)在使用Claude來制作我所有的圖表和表格。我會(huì)找到原始材料，但我不再花時(shí)間創(chuàng)建或設(shè)計(jì)專業(yè)的表格、圖表或視覺效果。我仍然不信任數(shù)字，需要檢查它們，但那個(gè)創(chuàng)造性的方面對(duì)我來說已經(jīng)過去了。相關(guān)地，我會(huì)特別使用Claude來查找原始材料，因?yàn)槿缃窈芏嘣疾牧喜粌H僅是在SEC或主流報(bào)告中。

帕特里克:我認(rèn)為金融圈以外的人不理解，花費(fèi)數(shù)十億美元雇傭世界上一些薪酬最高、受過最好教育的人作為MicrosoftPowerPoint和Excel專家是多么普遍。暫時(shí)還有價(jià)值，也許數(shù)據(jù)透視表和VLOOKUP()的“暗號(hào)”價(jià)值會(huì)比它們本身持續(xù)更久，但我在英格蘭銀行的演講也使用LLM制作了所有圖表。我們曾經(jīng)要求人類花費(fèi)數(shù)小時(shí)仔細(xì)調(diào)整它們，這感覺幾乎是離奇的。

德瓦克什:它們現(xiàn)在是我的個(gè)人一對(duì)一導(dǎo)師。我實(shí)際上曾嘗試為我想準(zhǔn)備的不同科目聘請(qǐng)人類導(dǎo)師，我發(fā)現(xiàn)LLM的延遲和速度只會(huì)帶來定性上好得多的體驗(yàn)。

我得到的數(shù)字等同物，就像人們愿意為Waymo支付比Uber高得多的溢價(jià)。這讓我傾向于認(rèn)為，許多工作的人類溢價(jià)不僅不會(huì)高，實(shí)際上甚至是負(fù)的。

麥克爾·伯里:關(guān)于這一點(diǎn)，許多人指出藍(lán)領(lǐng)職業(yè)是防AI的選擇。鑒于我現(xiàn)在僅僅在Claude的陪伴下就能在電氣工作和家里的其他領(lǐng)域做這么多事情，我不那么確定了。

如果我是中產(chǎn)階級(jí)，面臨800美元的水管工或電工上門費(fèi)，我可能會(huì)直接用Claude。

我喜歡我可以拍張照片并弄清楚我需要做的一切來修復(fù)它。

風(fēng)險(xiǎn)、權(quán)力以及如何塑造未來

帕特里克:相對(duì)知情的人士對(duì)AI風(fēng)險(xiǎn)的看法五花八門，從“它可能會(huì)在社交媒體上引起一些不快”到“如果中國在一項(xiàng)非常有用的新興技術(shù)及潛在軍事應(yīng)用上擊敗美國將是一種恥辱”到“下行風(fēng)險(xiǎn)包括對(duì)人類珍視的一切的字面終結(jié)”。什么最讓你徹夜難眠？另外，如果你有五分鐘時(shí)間與高級(jí)政策制定者交談，你會(huì)建議重新分配哪些注意力和資源？

杰克:我主要擔(dān)心的是人們是否成功地“構(gòu)建構(gòu)建AI的AI”——完全閉合AI研發(fā)的循環(huán)（有時(shí)稱為遞歸自我改進(jìn)AI）。要明確的是，我認(rèn)為2026年1月地球上出現(xiàn)遞歸自我改進(jìn)AI系統(tǒng)的可能性基本上為零，但我們確實(shí)看到AI在做AI研究組件方面變得越來越好的早期跡象，從內(nèi)核開發(fā)到自主微調(diào)開放權(quán)重模型。

如果這東西繼續(xù)變得更好，你最終構(gòu)建了一個(gè)可以構(gòu)建自己的AI系統(tǒng)，那么AI的發(fā)展將非常急劇地加速，并且可能變得更難讓人理解。這將帶來一系列重大的政策問題，并可能導(dǎo)致世界上歸因于AI系統(tǒng)的經(jīng)濟(jì)活動(dòng)出現(xiàn)前所未有的階躍變化。

換句話說，如果我有五分鐘時(shí)間與政策制定者交談，我會(huì)基本上對(duì)他們說：“自我改進(jìn)的AI聽起來像科幻小說，但技術(shù)上沒有任何東西說這是不可能的，如果它發(fā)生了，那將是一件大事，你應(yīng)該關(guān)注它。你應(yīng)該要求AI公司透明地說明他們在這里究竟看到了什么，并確保你有你信任的第三方可以測試AI系統(tǒng)的這些屬性?！?/p>

麥克爾·伯里:杰克，我想你可以讓政策制定者傾聽，我希望他們聽進(jìn)去了。

就目前而言，AI并沒有讓我太擔(dān)心對(duì)人類的風(fēng)險(xiǎn)。我認(rèn)為聊天機(jī)器人有可能讓人變笨——使用它們太多的醫(yī)生開始忘記他們實(shí)際的先天醫(yī)學(xué)知識(shí)。這不好，但不是災(zāi)難性的。

涉及AGI或人工超級(jí)智能（ASI）的災(zāi)難性擔(dān)憂對(duì)我來說并不太令人擔(dān)憂。我在冷戰(zhàn)時(shí)期長大，世界隨時(shí)可能爆炸。我們?yōu)榇诉M(jìn)行過學(xué)校演習(xí)。我和直升機(jī)在我們所有人頭頂噴灑馬拉硫磷一起踢足球。而且我在30多年前就看過《終結(jié)者》?！冻嗌杳鳌匪坪跏强赡艿?。我想人類會(huì)適應(yīng)的。

如果我能讓高級(jí)政策制定者傾聽，我會(huì)要求他們拿出1萬億美元（因?yàn)槿f億現(xiàn)在就像百萬一樣隨便扔），繞過所有的抗議和法規(guī)，在全國各地布滿小型核反應(yīng)堆，同時(shí)為每個(gè)人建立一個(gè)全新的、最先進(jìn)的電網(wǎng)。

盡快做到這一點(diǎn)，并用最新的物理和網(wǎng)絡(luò)安全措施保護(hù)這一切免受攻擊；甚至可能建立一支專門的核能防御部隊(duì)來保護(hù)每個(gè)設(shè)施，由聯(lián)邦資助。

這是獲得足夠電力以跟上中國的唯一希望，也是我們作為一個(gè)國家增長足夠快以最終償還債務(wù)并保證長期安全的唯一希望，即不讓電力成為我們創(chuàng)新的限制因素。

杰克:強(qiáng)烈同意能源部分（盡管我們對(duì)其他事情的主觀擔(dān)憂程度可能不同！）。AI將在經(jīng)濟(jì)中發(fā)揮有意義的作用，它從根本上依賴于底層基礎(chǔ)設(shè)施將其高效廉價(jià)地交付給企業(yè)和消費(fèi)者——類似于過去國家決定進(jìn)行大規(guī)模電氣化、道路建設(shè)、下水道建設(shè)等（大規(guī)模資本支出項(xiàng)目！）。我們需要緊急為能源做同樣的事情。

我也認(rèn)為大規(guī)模AI數(shù)據(jù)中心是新型能源技術(shù)非常有用的測試客戶，并且特別高興看到未來AI能源需求與核技術(shù)的融合（雙關(guān)語?。?。更廣泛地說，我認(rèn)為“經(jīng)濟(jì)安全就是國家安全”，因此確保我們擁有建設(shè)AI經(jīng)濟(jì)的基礎(chǔ)設(shè)施，將對(duì)我們的工業(yè)基礎(chǔ)和整體穩(wěn)健性產(chǎn)生連鎖積極影響。