新智元報(bào)道

編輯：艾倫

【新智元導(dǎo)讀】Science 最新論文顛覆「技術(shù)奇點(diǎn)」敘事：真正的智能爆炸已在發(fā)生，但它不是孤獨(dú)超級(jí)大腦的降臨，而是人與 AI 深度纏繞的社會(huì)性躍遷。推理模型內(nèi)部自發(fā)涌現(xiàn)出「思想社會(huì)」，人機(jī)混合的「半人馬時(shí)代」已然開啟。問題從不是奇點(diǎn)會(huì)不會(huì)到來，而是我們能否建起與之匹配的社會(huì)基礎(chǔ)設(shè)施。

上周的一篇 Science 論文，正在動(dòng)搖人們對(duì)人工智能未來最根深蒂固的想象。

幾十年來，「技術(shù)奇點(diǎn)」的故事幾乎已成定論：某一天，一個(gè)無所不能的 ASI 將憑空涌現(xiàn)，將人類甩在身后。

這個(gè)形象塑造了無數(shù)科幻小說，也隱約支撐著今天 AI 安全討論的底層邏輯。

芝加哥大學(xué)、加州大學(xué)圣地亞哥分校和谷歌的研究者認(rèn)為，這個(gè)故事從根子上就講錯(cuò)了。

詹姆斯·埃文斯（James Evans）、本杰明·布拉頓（Benjamin Bratton）和谷歌研究員布萊斯·阿格拉-阿卡斯（Blaise Agüera Y Arcas）在《科學(xué)》期刊發(fā)表論文《Agentic AI and the next intelligence explosion》（《智能體 AI 與下一次智能爆炸》），提出了一個(gè)截然不同的判斷：真正的智能爆炸已經(jīng)在發(fā)生，只是它的形狀和人們預(yù)想的完全不同——它是多元的、社會(huì)性的，而且與人類深度纏繞在一起。

模型內(nèi)部，有「人」在爭(zhēng)論

這篇論文的起點(diǎn)，是一項(xiàng)關(guān)于推理模型內(nèi)部機(jī)制的發(fā)現(xiàn)，足以令 AI 圈感到意外。

過去一年，DeepSeek-R1、QwQ-32B 等推理模型的橫空出世引發(fā)廣泛關(guān)注。

它們?cè)跀?shù)學(xué)、代碼、復(fù)雜邏輯等任務(wù)上的表現(xiàn)，顯著超過了同等規(guī)模的常規(guī)指令微調(diào)模型。

通常的解釋是：這些模型「想得更久了」——通過強(qiáng)化學(xué)習(xí)，在回答前生成更長(zhǎng)的思維鏈，付出更多測(cè)試時(shí)推算時(shí)間（test-time compute）。

然而，谷歌、芝加哥大學(xué)和圣塔菲研究所的研究者發(fā)現(xiàn)，推理能力的提升并非源于計(jì)算量的單純延伸，而是來自對(duì)多智能體交互的隱性模擬——他們將其稱為「思想社會(huì)」（society of thought）。

模型內(nèi)部會(huì)涌現(xiàn)出具有不同人格特質(zhì)和領(lǐng)域?qū)ｉL(zhǎng)的認(rèn)知視角，這些視角之間進(jìn)行辯論、質(zhì)疑與調(diào)和。

研究團(tuán)隊(duì)分析了超過 8000 道推理題的模型輸出，發(fā)現(xiàn)在最復(fù)雜的任務(wù)上，如研究生級(jí)別的科學(xué)推理（GPQA）和高難度數(shù)學(xué)題，DeepSeek-R1 的「對(duì)話特征」尤為明顯；

而在相對(duì)簡(jiǎn)單的布爾表達(dá)式等程序性任務(wù)中，這類特征幾乎消失。

他們甚至做了一個(gè)更直接的驗(yàn)證：在 DeepSeek-R1-Llama-8B 模型中，研究者找到了一個(gè)與「驚訝、頓悟或應(yīng)答」相關(guān)的內(nèi)部特征，人為提升該特征的激活強(qiáng)度后，模型在數(shù)學(xué)推算任務(wù)上的準(zhǔn)確率從 27.1% 躍升至 54.8%。

一個(gè)化學(xué)題的案例，把這種現(xiàn)象描述得相當(dāng)具體：面對(duì)一道復(fù)雜的 Diels-Alder 合成反應(yīng)，DeepSeek-R1 在推理過程中突然寫道：「不對(duì)，這里是環(huán)己二烯，不是苯」——模型在自我否定中修正了錯(cuò)誤。

而 DeepSeek-V3 則沿著一條單線敘述徑直走到底，給出了錯(cuò)誤答案。

更值得注意的是：這些模型從未被訓(xùn)練去產(chǎn)生「思想社會(huì)」。

當(dāng)強(qiáng)化學(xué)習(xí)僅以推理準(zhǔn)確率作為獎(jiǎng)勵(lì)信號(hào)時(shí)，模型自發(fā)增加了對(duì)話性的、多視角的行為。

優(yōu)化壓力，自己找到了社會(huì)性推理這條路。

智能，從來不是一個(gè)「人」的事

埃文斯等人在《科學(xué)》論文中，將這一發(fā)現(xiàn)放進(jìn)了更宏大的歷史框架：每一次「智能爆炸」，本質(zhì)上都是一次社會(huì)組織方式的躍遷。

靈長(zhǎng)類動(dòng)物的智識(shí)水平隨群體規(guī)模擴(kuò)大，而非隨棲息地難度增加。

人類語言創(chuàng)造了邁克爾·托馬塞洛所說的「文化棘輪」——知識(shí)跨代累積，無需每個(gè)人從頭重建。

文字、法律和官僚體系，則把社會(huì)智慧外化進(jìn)了制度和基礎(chǔ)設(shè)施之中。

論文舉了一個(gè)有趣的例子：一個(gè)蘇美爾文書負(fù)責(zé)運(yùn)行谷物核算系統(tǒng)，他根本不理解這套體系的宏觀經(jīng)濟(jì)功能——但系統(tǒng)整體的智能，已經(jīng)遠(yuǎn)超他個(gè)人。

大型語言模型延續(xù)了這條線：它們被訓(xùn)練在人類社會(huì)認(rèn)知的全部輸出之上，是文化棘輪的計(jì)算激活形態(tài)，每一個(gè)參數(shù)都是無數(shù)次交流與表達(dá)的壓縮沉淀。

這個(gè)視角，直接挑戰(zhàn)了「孤獨(dú)超級(jí)大腦」的奇點(diǎn)敘事。

布拉頓此前在其思想機(jī)構(gòu) Antikythera 的研究中持續(xù)探討類似問題，他曾在演講中描繪過這樣的情景：

如果未來存在 80 億人類智能體，和 800 億乃至更多的非人類智能體，兩者之間的比例可能是 1 比 10、1 比 100，甚至更高，屆時(shí)，「什么構(gòu)成社會(huì)」這個(gè)問題，將回到第一性原理。

「半人馬」時(shí)代，已經(jīng)開始

論文將當(dāng)下的人機(jī)協(xié)作形態(tài)稱為「半人馬配置」（centaur configuration）——人與 AI 智能體的混合行動(dòng)者，既非純粹的人類，也非純粹的機(jī)器。

這種配置會(huì)變得極其多樣：一個(gè)人指揮多個(gè) AI 智能體；一個(gè) AI 服務(wù)多個(gè)人；許多人與許多AI在動(dòng)態(tài)編組中相互協(xié)作。

智能體可以自我復(fù)制和分叉，一個(gè)面臨復(fù)雜問題的智能體可以生成副本，分配子任務(wù)，再將結(jié)果合并——這是遞歸式的集體審議，在每一層復(fù)雜性爆發(fā)時(shí)展開，在問題解決時(shí)收束。

這對(duì) AI 的擴(kuò)展路徑意味著什么？

論文的判斷是：重要的不只是單個(gè)智能體的算力規(guī)模，而是系統(tǒng)能否在真實(shí)社會(huì)的尺度和情境中運(yùn)作。

為此，「建設(shè)智能體制度」與「建設(shè)智能體本身」同等重要。

在對(duì)齊方式上，論文對(duì)當(dāng)下主流方案提出了批評(píng)。

從人類反饋中強(qiáng)化學(xué)習(xí)（RLHF）本質(zhì)上是「親子糾錯(cuò)模型」，在二元關(guān)系中有效，面對(duì)數(shù)十億智能體時(shí)難以擴(kuò)展。

他們主張一種「制度對(duì)齊」（institutional alignment）路徑：就像人類社會(huì)依靠法庭、市場(chǎng)、官僚體制這些持久的制度模板運(yùn)轉(zhuǎn)，而非依賴每個(gè)人的個(gè)人美德，可擴(kuò)展的 AI 生態(tài)也需要其數(shù)字等價(jià)物——智能體的身份在其次，關(guān)鍵是它能否勝任某個(gè)角色協(xié)議，就像「法官」、「律師」、「陪審團(tuán)」這些槽位本身的存在，獨(dú)立于坐在那個(gè)位子上的具體的人。

誰來審計(jì)審計(jì)者？

在治理層面，論文觸及了一個(gè)最為棘手的問題。

當(dāng) AI 系統(tǒng)被部署于招聘、量刑、福利分配等高風(fēng)險(xiǎn)決策中，「誰來審計(jì)審計(jì)者」變得無法回避。

論文提出了一種「憲政結(jié)構(gòu)」的構(gòu)想：政府需要部署具有明確價(jià)值取向的 AI 系統(tǒng)——透明度、公平、正當(dāng)程序——專門用于制衡私營(yíng)部門和政府其他部門部署的 AI，反之亦然。

例如，勞工部 AI 審計(jì)企業(yè)招聘算法是否存在差異性影響，司法部門 AI 評(píng)估行政部門 AI 的風(fēng)險(xiǎn)評(píng)估是否達(dá)到憲法標(biāo)準(zhǔn)。

論文用一個(gè)細(xì)節(jié)說明了另一種可能的未來：另一種選擇，是像美國(guó)證券交易委員會(huì)那樣，雇用拿著 Excel 表格的商學(xué)院畢業(yè)生，去對(duì)抗 AI 增強(qiáng)的高頻交易平臺(tái)的高維度合謀。

美聯(lián)儲(chǔ)的交易員，對(duì)陣的是一整套自動(dòng)化認(rèn)知系統(tǒng)——這已是現(xiàn)實(shí)。

這篇論文的核心關(guān)切，恰恰在于避免把注意力放錯(cuò)地方。

擔(dān)心一個(gè)無所不能的單體 AI 降臨，可能導(dǎo)致政策走向誤區(qū)——去防范一種也許根本不會(huì)出現(xiàn)的技術(shù)形態(tài)。

真正需要設(shè)計(jì)的，是混合人機(jī)社會(huì)系統(tǒng)的規(guī)范、協(xié)調(diào)機(jī)制和制度框架。

用論文的原話作結(jié)，倒也簡(jiǎn)潔有力：智能爆炸的問題，從來不是它會(huì)不會(huì)到來，而是我們能否建起與它相配的社會(huì)基礎(chǔ)設(shè)施。

參考資料：

https://www.science.org/doi/10.1126/science.aeg1895