新智元報(bào)道

編輯：定慧

【新智元導(dǎo)讀】你有沒有發(fā)現(xiàn)，你讓AI讀一篇長文章，結(jié)果它讀著讀著就忘了前面的內(nèi)容？ 你讓它處理一份超長的文檔，結(jié)果它給出來的答案，牛頭不對(duì)馬嘴？ 這個(gè)現(xiàn)象，學(xué)術(shù)界有個(gè)專門的名詞，叫做上下文腐化。 這也是目前AI的通病：大模型的記憶力太差了，文章越長，模型越傻！

2025年最后一天，麻省理工學(xué)院（MIT）丟了一篇重磅論文，就是要解決這個(gè)問題的。

這篇論文叫《Recursive Language Models》，也就是遞歸語言模型。

看起來很學(xué)術(shù)，但說人話就一句：讓AI再做一遍，效果直接起飛。

論文地址：https://arxiv.org/pdf/2512.24601

先劇透兩個(gè)核心數(shù)據(jù)：

• 在復(fù)雜推理任務(wù)上，僅僅讓模型多過2-4遍，正確率就能提升10%-25%

• 在超長文檔處理上，RLM（遞歸語言模型）在1000萬+token的規(guī)模下，依然保持穩(wěn)定表現(xiàn)，而傳統(tǒng)模型直接崩盤！

這啥概念？

以前我們覺得，AI不夠聰明，那就給它堆參數(shù)、加顯卡、買更多GPU。

MIT這篇論文直接掀桌子：別堆參數(shù)了，讓它返工重寫一遍，效果可能更好。（真就是人類監(jiān)工了）

原來解決問題的方法就是這么簡(jiǎn)單！

并且X上很多大佬紛紛點(diǎn)贊～

從一個(gè)讓人崩潰的問題說起

你有沒有這種經(jīng)歷：

讓ChatGPT幫你寫一篇文章，它洋洋灑灑寫了三千字，你一看——臥槽，離題萬里。

或者讓它幫你寫代碼，它寫完了，一運(yùn)行——全是bug。

但神奇的是，你讓它再檢查一遍、重新想想，有時(shí)候它就突然能改對(duì)了。

MIT的研究人員發(fā)現(xiàn)，這不是玄學(xué)，這是有規(guī)律的。

大多數(shù)AI犯的錯(cuò)，不是因?yàn)樗欢?，而是因?yàn)樗醺鍖懱炝恕?/strong>

就像你寫論文，第一稿總是稀爛，但改個(gè)三四遍，就像換了個(gè)人寫的。

AI也是一樣。

問題是：現(xiàn)在的大模型基本都是一遍過的模式，你輸入問題，它輸出答案，完事。

它自己不會(huì)主動(dòng)返工、不會(huì)自我檢查、不會(huì)反復(fù)推敲。

或者換一個(gè)思路來理解大模型原先的思路：

假設(shè)你是一個(gè)剛進(jìn)公司的實(shí)習(xí)生，領(lǐng)導(dǎo)給你發(fā)了一份500頁的資料，讓你整理出一份報(bào)告。

你會(huì)怎么做？

正常人的做法是：先翻一翻，找到重點(diǎn)章節(jié)，然后一章一章地讀，讀完一章做個(gè)總結(jié)，最后把所有總結(jié)串起來。

對(duì)吧？

但大模型不是這么干的。

大模型的做法是：直接把500頁資料從頭到尾一口氣讀完，然后嘗試憑記憶回答問題。

這能記住才有鬼了。

這就是大模型面臨的困境。

它不是不聰明，它是記不住。

MIT這篇論文干的事兒，就是給AI裝上了一個(gè)返工的能力。

AI的真正瓶頸：不是腦子不夠大，是記性太差

在聊MIT的解決方案之前，我得先跟你說清楚，為什么這件事這么重要。

你可能聽說過一個(gè)詞，叫上下文窗口。

啥意思呢？

你可以把AI大模型想象成一個(gè)天才，但是這個(gè)天才有個(gè)致命缺陷——他的工作臺(tái)太小了。

你給他一份超長的資料，讓他幫你分析，但他只能把資料的一小部分放到工作臺(tái)上看。

超過工作臺(tái)大小的部分？看不到，直接忽略。

現(xiàn)在最牛逼的GPT-5，工作臺(tái)能放27萬個(gè)token（大約相當(dāng)于20萬字中文）。

聽著挺厲害的對(duì)吧？

但問題來了。

就是說，哪怕是在這27萬token的限制之內(nèi)，模型的表現(xiàn)也會(huì)隨著輸入變長而急劇下降。

• 當(dāng)你給它8000個(gè)token的時(shí)候，它表現(xiàn)賊棒。

• 給它8萬個(gè)token的時(shí)候，它開始有點(diǎn)迷糊。

• 給它27萬個(gè)token的時(shí)候，它直接開始胡說八道。

為什么？

因?yàn)樾畔⑻嗔?，它處理不過來了，腦子亂了。

就像讓一個(gè)人同時(shí)記住一整本百科全書然后回答問題——記是記住了，但找不到了。

這就是大模型現(xiàn)在的困境：不是上下文窗口不夠長，而是長了也用不好。

MIT的天才想法：把資料放到抽屜里

好了，問題講清楚了，現(xiàn)在來看MIT的解決方案。

傳統(tǒng)做法是：你把資料直接塞進(jìn)AI的腦子里。

MIT的做法是：別塞進(jìn)去了，放抽屜里吧。

他們發(fā)明了一個(gè)叫RLM的東西。

RLM的核心思路是：不要讓AI直接讀那份巨長的資料，而是讓AI用代碼去翻那份資料。

打個(gè)比方。

以前的AI，就像一個(gè)學(xué)生，你把一整本教科書拍在他面前說：看完，然后回答我的問題。

學(xué)生：？？？我看不完啊，我能不能看一部分？

然后他就硬著頭皮看前面的一部分，后面的直接放棄。

RLM的做法不一樣。

它更像是給這個(gè)學(xué)生配了一個(gè)目錄系統(tǒng)和搜索引擎。

資料還是那份資料，但學(xué)生不用從頭到尾讀了。他可以先翻目錄，看看大概結(jié)構(gòu)，然后針對(duì)問題去搜索相關(guān)段落，把有用的信息摘出來。

更牛的是，這個(gè)學(xué)生可以把一個(gè)復(fù)雜問題拆成好幾個(gè)小問題，然后——注意重點(diǎn)來了——他可以召喚自己的分身，讓分身去同時(shí)處理各個(gè)小問題，最后匯總答案。

這就是遞歸的意思：AI可以調(diào)用自己的分身，讓自己幫自己干活。

或者再降維一下理解就是：

它把這份超長的文檔，當(dāng)成一個(gè)放在外面的資料庫，而不是直接塞進(jìn)腦子里。

然后，模型可以寫代碼，自己去查這個(gè)資料庫。

需要第一章的內(nèi)容？寫個(gè)代碼去查。

需要第十章的內(nèi)容？再寫個(gè)代碼去查。

需要把第一章和第十章的內(nèi)容對(duì)比？

那就先查第一章，做個(gè)總結(jié)，再查第十章，做個(gè)總結(jié)，最后把兩個(gè)總結(jié)合起來。

這就像是一個(gè)有無限容量的外置硬盤。

模型的腦子里裝不下那么多東西，沒關(guān)系。

可以隨時(shí)去硬盤里查，用到什么查什么。

這樣一來，理論上，模型可以處理無限長的文檔。

具體怎么做的？

MIT的實(shí)現(xiàn)方式其實(shí)挺優(yōu)雅的。

他們給AI配了一個(gè)Python編程環(huán)境（REPL），把那份超長的資料存成一個(gè)變量。

然后AI不再直接去讀這份資料，而是用代碼去操作它。

比如：

• 想看資料有多長？寫一行代碼len(input_text)就知道了

• 想看資料的前1000個(gè)字符？寫input_text[:1000]

• 想在資料里搜索關(guān)鍵詞？寫個(gè)正則表達(dá)式

更厲害的是，AI可以把這份資料分段，把每一段交給一個(gè)子AI去處理，然后自己匯總結(jié)果。

這個(gè)子AI，用的其實(shí)是同一個(gè)模型，只不過是遞歸調(diào)用自己。

這個(gè)設(shè)計(jì)有兩個(gè)巨大的好處：

第一，AI不用在腦子里記住那份超長資料了。

資料就放在外面的抽屜里，需要的時(shí)候用代碼去取。

這就意味著，理論上，資料可以無限長——只要抽屜夠大。

第二，AI可以自己判斷需要看什么、不需要看什么。

它不會(huì)傻乎乎地從頭讀到尾，而是會(huì)聰明地挑重點(diǎn)看。

這大大節(jié)省了計(jì)算成本，也提高了準(zhǔn)確率。

效果到底有多猛？

MIT在論文里做了一堆實(shí)驗(yàn)，結(jié)果還是挺震撼的。

實(shí)驗(yàn)一：超長文檔理解

他們用了很多測(cè)試機(jī)，其中一個(gè)叫OOLONG的測(cè)試集，這個(gè)測(cè)試需要AI理解超長文檔，并回答需要綜合全文信息才能回答的問題。

結(jié)果：GPT-5基座模型的準(zhǔn)確率44%，而RLM達(dá)到了56.5%。

而在CodeQA中，GPT-5基座模型的準(zhǔn)確率24%，而RLM達(dá)到了62%，直接提升了2.7倍！

實(shí)驗(yàn)二：超超超長文檔（1000萬+token）

他們還把文檔長度一路拉到1000萬token以上（相當(dāng)于幾十本書的長度）。

GPT-5？壓根處理不了，直接爆炸。

RLM(GPT-5)？穩(wěn)穩(wěn)當(dāng)當(dāng)，表現(xiàn)基本不掉。

這是一個(gè)質(zhì)的飛躍。

實(shí)驗(yàn)三：成本對(duì)比

你可能會(huì)想：這么牛逼的東西，是不是巨貴？

神奇的是，并沒有。

在BrowseComp-Plus基準(zhǔn)測(cè)試中，讓GPT-5-mini直接處理600萬-1100萬token的輸入，成本大約是1.5-2.75美元。

而RLM(GPT-5)的平均成本只有0.99美元。

更便宜，效果還更好。

為什么？

因?yàn)镽LM不會(huì)傻傻地把所有內(nèi)容都讀一遍，它只讀需要的部分。

這個(gè)發(fā)現(xiàn)為什么重要？

MIT這篇論文的意義，遠(yuǎn)不止于讓AI處理更長的文檔。

它揭示了一個(gè)更根本的道理：

AI的能力邊界，不只取決于模型本身有多大、參數(shù)有多多，還取決于你怎么使用它。

以前我們的思路是：模型不夠強(qiáng)——那就加參數(shù)。

MIT告訴我們：等等，也許不用加參數(shù)，讓它多想幾遍就夠了。

回到開頭提到的那個(gè)發(fā)現(xiàn)：

在多步推理任務(wù)中，僅增加2-4次遞歸處理，正確率就能提升10%-25%。大約4次迭代后，收益逐漸趨于平緩。

這說明什么？

大多數(shù)AI犯的錯(cuò)，都是初稿錯(cuò)誤：不是它不懂，是它第一遍太草率了。

讓它返工幾次，就能改對(duì)。（所以有時(shí)候，你在使用AI時(shí)，還真的當(dāng)個(gè)監(jiān)工，讓AI多輸出幾次）

這跟人類其實(shí)一模一樣。

任何牛逼的程序員都知道，第一版代碼永遠(yuǎn)是最爛的，代碼質(zhì)量是改出來的，不是寫出來的。

任何牛逼的作家都知道，第一稿永遠(yuǎn)是廢稿，好文章是改出來的，不是寫出來的。

現(xiàn)在，AI也一樣了。

未來展望

MIT在論文最后提到，這只是一個(gè)開始。

目前的RLM還有很多可以優(yōu)化的地方：

1.異步調(diào)用：目前子任務(wù)是一個(gè)接一個(gè)執(zhí)行的，如果能并行執(zhí)行，速度會(huì)更快。

2.更深的遞歸：目前只允許一層遞歸（AI調(diào)用自己的分身），如果允許分身再調(diào)用分身，理論上能處理更復(fù)雜的任務(wù)。

3.專門訓(xùn)練：目前RLM用的是現(xiàn)成的大模型，如果專門為遞歸思考訓(xùn)練一個(gè)模型，效果可能更猛。

MIT的研究者們相信，這可能代表了大模型能力擴(kuò)展的一個(gè)新方向：

不是一味地堆參數(shù)、堆算力，而是讓模型學(xué)會(huì)更聰明地思考。

彩蛋

MIT這篇論文，讓我想起了一個(gè)老笑話：

客戶問程序員：這個(gè)bug你修了多久？

程序員說：5分鐘。

客戶說：那為什么收我500塊？

程序員說：找出問題在哪，花了我3天。

AI也是一樣。

它的思考時(shí)間遠(yuǎn)比我們想象的更重要。

給它一點(diǎn)返工的機(jī)會(huì)，它可能就能從還行變成牛逼。

這也許就是下一代AI進(jìn)化的方向：不是更大的腦子，而是更深度的思考。

參考資料：

https://x.com/a1zhang/status/2007198916073136152?s=20

秒追ASI

?點(diǎn)贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點(diǎn)亮星標(biāo)，鎖定新智元極速推送！