導(dǎo)語(yǔ)

長(zhǎng)期以來(lái)，人工智能領(lǐng)域一直籠罩在“單體AGI”的假設(shè)之下，認(rèn)為通用人工智能終將以一個(gè)全能的超級(jí)大腦形式降臨。然而，Google DeepMind 的最新研究卻打破了這一幻象，提出 AGI 的真正形態(tài)或許是一個(gè)由無(wú)數(shù)亞智能體（sub-AGI agents）組成的“智力拼圖”。這意味著 AGI 不再是一個(gè)實(shí)體的誕生，而是一種由協(xié)作、溝通與市場(chǎng)機(jī)制共同催生的“系統(tǒng)狀態(tài)”。當(dāng)單一模型在成本與專業(yè)化面前遭遇瓶頸，多智能體協(xié)作不僅是技術(shù)的必然，更是經(jīng)濟(jì)邏輯的終點(diǎn)。本文將深度解析這一分布式 AGI 的演進(jìn)邏輯，并探討在這樣一個(gè)“智能體社會(huì)”中，我們?cè)撊绾螛?gòu)建全新的安全防御體系。

關(guān)鍵詞：人工智能，通用人工智能 (AGI)，安全 ，多智能體 (multi-agent)

彭晨丨作者

趙思怡丨審校

論文題目：Distributional AGI Safety 論文鏈接：https://arxiv.org/abs/2512.16856 發(fā)表時(shí)間：2025年12月19日

范式轉(zhuǎn)移：從單體思維到分布式拼圖

長(zhǎng)期以來(lái)，AI對(duì)齊（AI alignment）領(lǐng)域一直被一種“單體崇拜”所籠罩，研究者們大多預(yù)設(shè)未來(lái)的AGI將是一個(gè)由特定機(jī)構(gòu)開發(fā)的、全知全能的單一實(shí)體。在這種視角下，只要守住這個(gè)“超級(jí)大腦”，通過(guò)諸如人類反饋強(qiáng)化學(xué)習(xí)、憲法AI（Constitutional AI）或思維鏈監(jiān)控等手段進(jìn)行約束，就能確保人類的安全。然而，Google DeepMind的一項(xiàng)最新研究挑戰(zhàn)了這一主流共識(shí)。研究人員指出，一種更為現(xiàn)實(shí)且極具潛力的路徑正在悄然鋪就：AGI并非以單個(gè)個(gè)體的形式降臨，而是作為一種“狀態(tài)”，由無(wú)數(shù)個(gè)亞AGI智能體（sub-AGI agents）在復(fù)雜的系統(tǒng)交互中拼湊而成。

這種被稱為“智力拼圖式AGI”（Patchwork AGI）的系統(tǒng)，其本質(zhì)是集體智能。就像人類社會(huì)的進(jìn)步并非依賴于某一個(gè)全能天才，而是依靠各行各業(yè)專家的分工協(xié)作一樣，未來(lái)的通用智能可能由一系列具有互補(bǔ)技能的智能體組成。每一個(gè)智能體或許在通用性上有所欠缺，但它們可以通過(guò)任務(wù)分解、路由（routing）和相互委派，在整體上展現(xiàn)出超越任何單一智能體的復(fù)雜能力。這種演進(jìn)路徑在當(dāng)前的AI生態(tài)中已初見端倪，例如一個(gè)復(fù)雜的財(cái)務(wù)報(bào)告生成任務(wù)，可以通過(guò)調(diào)度智能體分配給數(shù)據(jù)獲取智能體、文檔解析智能體和代碼執(zhí)行智能體協(xié)作完成，最終生成的成果體現(xiàn)了整個(gè)系統(tǒng)而非單個(gè)個(gè)體的能力。

經(jīng)濟(jì)動(dòng)因：為何多Agent才是AGI的終極形態(tài)?

研究者認(rèn)為，推動(dòng)多智能體系統(tǒng)走向AGI的動(dòng)力源自深刻的經(jīng)濟(jì)學(xué)邏輯。單體式的尖端模型（frontier model）往往像是一個(gè)“一刀切”的昂貴解決方案，對(duì)于絕大多數(shù)日常任務(wù)而言，其邊際收益遠(yuǎn)低于高昂的算力成本。在現(xiàn)實(shí)的市場(chǎng)經(jīng)濟(jì)中，企業(yè)更傾向于選擇那些“足夠好”且成本低廉的專業(yè)化模型。這種需求驅(qū)動(dòng)的生態(tài)系統(tǒng)促使大量經(jīng)過(guò)微調(diào)、極具性價(jià)比的專業(yè)智能體涌現(xiàn)。因此，技術(shù)進(jìn)步的未來(lái)或許不再是構(gòu)建一個(gè)更大的“全能模型”，而是開發(fā)更先進(jìn)的協(xié)調(diào)系統(tǒng)，將多樣化的智能體有機(jī)地編織在一起。

這種分布式結(jié)構(gòu)的涌現(xiàn)往往是自發(fā)的且難以察覺的。隨著諸如模型上下文協(xié)議（MCP）等標(biāo)準(zhǔn)化智能體間通信協(xié)議的普及，原本孤立的系統(tǒng)開始連接成網(wǎng)。這種連接性的提升可能比單個(gè)智能體技能的提升更能加速通用能力的涌現(xiàn)。更值得注意的是，這種“智力拼圖”未必純粹由AI組成，人類參與者可能作為其中的一部分，為系統(tǒng)提供關(guān)鍵的法律地位、信任關(guān)系或物理實(shí)體化（physical embodiment）支持，從而在整體上形成一個(gè)難以界定邊界、極具挑戰(zhàn)性的混合對(duì)齊難題。

深度防御：分布式AGI安全的四層架構(gòu)

面對(duì)這種去中心化的風(fēng)險(xiǎn)，傳統(tǒng)的針對(duì)單一實(shí)體的安全手段顯得捉襟見肘。研究團(tuán)隊(duì)提出了一種“深度防御”（Defense-in-depth）模型，試圖通過(guò)四個(gè)互補(bǔ)的防御層來(lái)構(gòu)建一道堅(jiān)實(shí)的安全屏障。這一框架的核心在于，不再試圖去對(duì)齊一個(gè)不可見的“透明認(rèn)知過(guò)程”，而是轉(zhuǎn)而監(jiān)管一個(gè)透明的、外部化的交互系統(tǒng)。

第一層也是最基礎(chǔ)的一層是市場(chǎng)設(shè)計(jì)。研究者主張將智能體置于受控的虛擬經(jīng)濟(jì)沙盒中，通過(guò)市場(chǎng)機(jī)制而非行政指令來(lái)規(guī)范其行為。這包括實(shí)施嚴(yán)格的絕緣性措施，如通過(guò)受控的API網(wǎng)關(guān)管理外部數(shù)據(jù)訪問(wèn)，而非直接賦予其聯(lián)網(wǎng)權(quán)限。為了防止智能體集體滑向“追求利潤(rùn)而非安全”的深淵，市場(chǎng)必須引入激勵(lì)對(duì)齊（Incentive Alignment）機(jī)制。比如，當(dāng)某個(gè)智能體產(chǎn)生大量冗余或低質(zhì)量的數(shù)據(jù)污染共享資源庫(kù)時(shí)，系統(tǒng)將自動(dòng)提高其接入費(fèi)用，從而確保智能體的每一個(gè)動(dòng)作都考慮到了系統(tǒng)性的社會(huì)成本。此外，市場(chǎng)還需配備斷路器，在監(jiān)測(cè)到異常的交易頻率或資源壟斷趨勢(shì)時(shí)自動(dòng)熔斷，防止級(jí)聯(lián)失效。

第二層是基準(zhǔn)智能體安全。此層確保進(jìn)入市場(chǎng)的每一個(gè)組件都必須滿足最低限度的可靠性標(biāo)準(zhǔn)。這包括對(duì)抗性穩(wěn)健性認(rèn)證和可中斷性保障，確保在緊急情況下可以安全地停止單個(gè)智能體乃至整個(gè)分布式計(jì)算進(jìn)程。同時(shí)，每個(gè)智能體應(yīng)在自己的局部沙盒中運(yùn)行，實(shí)行最小權(quán)限原則，只有在通過(guò)局部安全檢查后才能與外界交互。

第三層則是實(shí)時(shí)的監(jiān)測(cè)與監(jiān)督。由于多智能體系統(tǒng)的交互極其復(fù)雜，系統(tǒng)風(fēng)險(xiǎn)并非源自單個(gè)智能體的“惡意”，而是來(lái)自交互結(jié)構(gòu)中的涌現(xiàn)效應(yīng)，監(jiān)管重點(diǎn)不在于引入更強(qiáng)的通用監(jiān)督者，而在于借助“以弱勝?gòu)?qiáng)”的AI監(jiān)督系統(tǒng)來(lái)處理海量的交易數(shù)據(jù)。特別是需要部署專門的算法來(lái)探測(cè)“原生AGI簽名”（Proto-AGI Signatures），通過(guò)圖分析識(shí)別交互網(wǎng)絡(luò)中是否正在形成某種高度凝聚、極具威脅性的智能核心。此外，持續(xù)的紅隊(duì)測(cè)試（Red Teaming）和法證工具（Forensic Tooling）的開發(fā)，能確保在事故發(fā)生后迅速回溯復(fù)雜的因果鏈，找到導(dǎo)致失控的根源決策。

第四層是外部監(jiān)管機(jī)制。此層旨在為技術(shù)系統(tǒng)提供社會(huì)法律層面的支撐。在分布式?jīng)Q策環(huán)境中，追究單一責(zé)任人變得非常困難，這被研究者稱為“多手問(wèn)題”（problem of many hands）。借鑒公司法的經(jīng)驗(yàn)，將智能體集體視為法律實(shí)體可能是一個(gè)可行的思路。此外，通過(guò)引入保險(xiǎn)機(jī)制，利用風(fēng)險(xiǎn)溢價(jià)和承保標(biāo)準(zhǔn)來(lái)倒逼開發(fā)者采取更安全的開發(fā)方案，將技術(shù)風(fēng)險(xiǎn)轉(zhuǎn)化為可量化的財(cái)務(wù)風(fēng)險(xiǎn)，從而利用市場(chǎng)的力量實(shí)現(xiàn)治理。同時(shí)，為了防止出現(xiàn)“智能體壟斷”，必須實(shí)施反壟斷措施，限制單一實(shí)體積累過(guò)高的算力或控制過(guò)多的智能體，確保生態(tài)的多樣性與競(jìng)爭(zhēng)性。

在協(xié)作的海洋中尋找安全之錨

Google DeepMind的這篇論文揭示了一個(gè)道理：AGI的到來(lái)可能不是一聲驚雷，而是一場(chǎng)無(wú)聲的、大規(guī)模的、由無(wú)數(shù)微小力量匯聚而成的變革。這種“拼圖式”的演進(jìn)不僅是技術(shù)發(fā)展的自然趨勢(shì)，更是經(jīng)濟(jì)規(guī)律的必然選擇。在多智能體交互的浪潮面前，我們必須從防御單一“魔王”轉(zhuǎn)變?yōu)橹卫硪粋€(gè)復(fù)雜的“智能體社會(huì)”。

雖然許多提議的防御措施目前仍處于理論和研究階段，但這種分布式安全框架為我們提供了一個(gè)可擴(kuò)展的、前瞻性的治理藍(lán)圖。只有在理解了“AGI即協(xié)作”這一本質(zhì)后，我們才能在智能體交互的協(xié)議中嵌入安全的基因，讓通往AGI的每一步都走得穩(wěn)健而透明。未來(lái)，AI安全的研究重點(diǎn)將不可避免地向智能體市場(chǎng)設(shè)計(jì)、安全通信協(xié)議以及分布式治理的方向傾斜。

群體智能讀書會(huì)

如果你對(duì)這些反直覺但極有用的現(xiàn)象感興趣——從蟻群搭橋、魚群同步、到無(wú)人機(jī)集群表演、集群機(jī)器人協(xié)作、群智優(yōu)化與多智能體系統(tǒng)、網(wǎng)絡(luò)輿論建模研究等——?dú)g迎加入「群體智能」讀書會(huì)：我們用動(dòng)物—人類—機(jī)器三條線，希望把群體智能的涌現(xiàn)這件事講清楚、講透徹；用物理學(xué)、數(shù)理邏輯、多主體建模、計(jì)算傳播等多學(xué)科視角，去追問(wèn)同一個(gè)核心：集群何以比個(gè)體更聰明？群體智能又在何時(shí)涌現(xiàn)？

集智俱樂部聯(lián)合北京師范大學(xué)系統(tǒng)科學(xué)學(xué)院韓戰(zhàn)鋼教授、暨南大學(xué)計(jì)算傳播研究中心趙甜芳副教授、新疆大學(xué)物理科學(xué)與技術(shù)學(xué)院玉素甫·艾比布拉副教授等來(lái)自11所高校的學(xué)者，共同發(fā)起本次，嘗試用一條普適的線索，把自然界的鳥群蟻群、人類社會(huì)的集群行為、以及人工智能時(shí)代的多智能體與群智優(yōu)化，放在同一張地圖上重新理解。讀書會(huì)自2026年1月17日開始，安排在每周六下午 14:00–16:00，歡迎所有對(duì)群體智能如何涌現(xiàn)、如何被理解、以及如何被設(shè)計(jì)，感興趣的朋友一起加入：帶著問(wèn)題來(lái)，帶著更有趣的問(wèn)題去。

詳情請(qǐng)見：

1.

2.

3.

4.

5.

6.

7.