2025年，被稱為智能體之年。這一年正在進(jìn)入尾聲，智能體怎么樣了？

硅谷AI大神卡帕西（Andrej Karpathy），最近接受科技播客 Dwarkesh Patel長達(dá)3小時(shí)采訪，對AI界提出了一些尖銳的批評。他在對話中說：有些智能體就是垃圾，這個(gè)行業(yè)“試圖假裝這很神奇”。播客視頻發(fā)布之后，引起許多爭議。

卡帕西平時(shí)寫推文的風(fēng)格，其實(shí)一向是反思、謙遜、技術(shù)含量很高又帶點(diǎn)人文色彩。他又發(fā)了一篇長推文，借此澄清了播客中被誤讀的重點(diǎn)：他并不看空 AGI，只是比當(dāng)前的樂觀情緒更理性；他看好智能體交互、看衰傳統(tǒng) RL；強(qiáng)調(diào)“認(rèn)知核心”與記憶削弱的方向；也批評了過度自動化的 Agent 幻象。

下面是他的長推文翻譯，我們做了一點(diǎn)刪節(jié)，調(diào)整了小標(biāo)題。如下：

很高興上周能參加 Dwarkesh 的節(jié)目。我覺得他的問題和整場對話都非常好。

我剛又重新看了一遍那期播客。首先，是的，我知道——我說話實(shí)在太快了，對此我很抱歉。這對我自己其實(shí)也不利，因?yàn)橛袝r(shí)候我的“說話線程”比“思考線程”還快，結(jié)果導(dǎo)致有些解釋沒講好；有時(shí)我又擔(dān)心自己扯得太遠(yuǎn)、太枝蔓?？傊@里是一些補(bǔ)充說明：

AGI 時(shí)間表：悲觀5-10倍

我在節(jié)目里談AGI時(shí)間表的部分似乎成了早期反響里最熱門的段落。我說的“智能體的十年（decade of agents）”其實(shí)指的是我之前那條推文?？傮w來說，我的 AI 時(shí)間線比你在舊金山的 AI 圈聚會或 Twitter 時(shí)間線上聽到的要悲觀 5–10 倍，但相比近來出現(xiàn)的一股“AI 懷疑論”浪潮，我又仍然算樂觀。

這并不矛盾——我認(rèn)為我們確實(shí)在近幾年 LLM 上取得了巨大進(jìn)展， 但同時(shí)要實(shí)現(xiàn)真正的 AGI 仍有大量工作要做：底層工程整合、感知器與執(zhí)行器接入物理世界、社會制度配套、安全與防護(hù)（如越獄、數(shù)據(jù)投毒）等，還有許多研究任務(wù)要完成，才能造出一個(gè)“在任何崗位上你都寧愿雇用它而非人類”的實(shí)體。

從整體上看，10 年其實(shí)已經(jīng)是個(gè)相當(dāng)樂觀的 AGI 時(shí)間表——只是與當(dāng)下的“過熱”情緒相比，才顯得不那么樂觀而已。

動物 vs 幽靈

我在 Sutton 的播客上寫過一篇相關(guān)的想法。我對“只需放出一種簡單算法就能從零學(xué)會一切”這類說法持懷疑態(tài)度。

如果有人真的造出了這樣的系統(tǒng)，那我寧愿被打臉——那將是 AI 史上最驚人的突破。

在我看來，動物絕不是這樣的例子。它們在出生前就被進(jìn)化過程預(yù)裝了大量智慧，出生后的學(xué)習(xí)其實(shí)很有限（比如斑馬一出生就能站立奔跑）。從工程角度說，我們不可能“重做一次進(jìn)化”。

但 LLM 意外地走出了一條替代路徑：我們通過預(yù)測網(wǎng)絡(luò)上的下一個(gè) token，而不是生物進(jìn)化，來“預(yù)裝”大量智能。 這種方式造出的智能體，不像動物，更像幽靈或靈體（ghosts/spirits）。當(dāng)然，我們可以也應(yīng)該讓它們逐漸更“像動物”，這也是許多前沿研究正在做的事情。

嘈雜的強(qiáng)化學(xué)習(xí)

我已經(jīng)多次批評過RL。首先，它的問題是“像通過吸管吸監(jiān)督信號（sucking supervision through a straw）”，也就是說信號效率極低。

其次，RL的反饋極其嘈雜：一個(gè)生成可能包含許多錯(cuò)誤，但只要最終結(jié)果正確，就可能把那些錯(cuò)誤步驟也獎勵了；反過來，一個(gè)中途很有洞見的 token 卻可能因?yàn)楹罄m(xù)出錯(cuò)而被懲罰?！斑^程監(jiān)督”或LLM 評審也各有問題。

我認(rèn)為我們會看到新的學(xué)習(xí)范式出現(xiàn)。我長期看好“智能體式交互（agentic interaction）”，但短期看衰傳統(tǒng) RL。

我最近看到一些論文的方向是對的，類似我之前稱作“系統(tǒng)提示學(xué)習(xí)（system prompt learning）”的思路。但 arXiv 上的點(diǎn)子與能在前沿實(shí)驗(yàn)室真正大規(guī)模落地的實(shí)現(xiàn)之間，仍有鴻溝。

總體我仍然樂觀——這一方向的進(jìn)展會很快出現(xiàn)。 例如，ChatGPT 的記憶功能等，已經(jīng)是這種新學(xué)習(xí)范式的原始實(shí)踐雛形。

認(rèn)知才是核心

我早先的帖子中，核心想法是剝除 LLM 的記憶，使其更難死記硬背，甚至主動移除部分記憶，從而增強(qiáng)泛化能力。 否則模型會過度依賴所記住的東西。

人類記憶困難——而這反倒可能是個(gè)優(yōu)點(diǎn)，一種天然的正則化。參見我另一篇關(guān)于模型規(guī)模趨勢“反向”的帖子： 為什么“模型必須先變大，然后才能變小”。

低能的智能體

我對當(dāng)前業(yè)界的批評主要是：工具做得過頭，而能力還沒跟上。我生活在一個(gè)“中間狀態(tài)”的世界——我想與 LLM 協(xié)作，我們各有所長。整個(gè)業(yè)界似乎活在一個(gè)未來幻境里：那時(shí)完全自主的智能體并行合作寫完所有代碼，人類已無用武之地。

例如，我并不想要一個(gè)跑 20 分鐘后回來給我1000 行代碼的智能體。我更不想監(jiān)督 10 個(gè)這樣的代理團(tuán)隊(duì)。

我希望以自己能理解的“塊”為單位推進(jìn)：LLM在寫代碼時(shí)能解釋給我聽；它能向我證明代碼正確；它自動查API文檔并展示用法；在不確定時(shí)少做假設(shè)，多與我協(xié)作。

我希望在過程中一起學(xué)習(xí)，成為更好的程序員，而不是被動地接收一堆“看似能跑的山一樣的代碼”。

我只是認(rèn)為：這些工具應(yīng)該更現(xiàn)實(shí)地匹配當(dāng)前能力和行業(yè)需求。否則，若處理不好，我們可能會迎來“軟件垃圾山”：漏洞、攻擊面、安全問題都會激增。