11月17日，第47期AIR學(xué)術(shù)沙龍如期舉行。本期活動榮幸邀請到了伯克利前沿基金科技顧問芮勇博士，為清華師生帶來一場題為《AI Agent在現(xiàn)實(shí)世界的落地：從概念框架到實(shí)踐演化》的深度分享。

講者簡介

芮勇博士是全球產(chǎn)業(yè)界、科技界、學(xué)術(shù)界三棲領(lǐng)袖。是多家企業(yè)、大學(xué)、VC 的董事及顧問?，F(xiàn)任伯克利前沿基金科技顧問，是前聯(lián)想集團(tuán)全球CTO，前微軟亞洲研究院常務(wù)副院長。他創(chuàng)建了聯(lián)想首個(gè) AI 實(shí)驗(yàn)室，領(lǐng)導(dǎo)15000名研發(fā)工程師，是聯(lián)想智能化轉(zhuǎn)型、端側(cè)智能體、智能制造、智能柔性設(shè)備、智能數(shù)據(jù)中心的技術(shù)領(lǐng)導(dǎo)者，助力聯(lián)想市值上漲三倍。他領(lǐng)導(dǎo)微軟總部及亞太的研發(fā)團(tuán)隊(duì)，為微軟的數(shù)字媒體、必應(yīng)搜索、視頻會議、Azure AI Services 的多媒體化和智能化做出了重要貢獻(xiàn)。他是歐洲科學(xué)院及加拿大工程院外籍院士，是 Fellow of ACM/IEEE/AAAS/IAPR/SPIE. 他是清華、北大、中科院客座教授，清華企業(yè)家協(xié)會成員。是全球多媒體期刊 IEEE Multimedia Magazine 首任華人主編。

報(bào)告內(nèi)容

在人工智能快速演進(jìn)的時(shí)代，我們越來越關(guān)心一個(gè)核心問題：AI Agent 如何真正走向現(xiàn)實(shí)世界，成為能夠“落地”的智能體？兩千多年前，屈原在《天問》中提出百余個(gè)問題，后人將其總結(jié)為“九問”。今天，我們站在人工智能第三次浪潮的中心，芮勇博士同樣以“九問”之名，向 AI Agent 的未來提出九個(gè)重要的問題。這九個(gè)問題將從大模型的局限性與 Agent 的必然性、從概念框架走向可落地的 Agent以及未來趨勢展望這三個(gè)方向展開。

大模型的局限性與Agent的必然性

要理解為什么 AI Agent會成為新的方向，就必須先認(rèn)識大模型本身的局限。在人工智能這個(gè)詞誕生的69年里，人工智能經(jīng)歷了兩次寒冬，而每一次寒冬的核心原因都是無法在真實(shí)世界落地。現(xiàn)在大模型固然強(qiáng)大，產(chǎn)業(yè)化也在飛速發(fā)展，但仍存在多個(gè)關(guān)鍵問題。

首先便是理解能力不足，例如：讓現(xiàn)有最強(qiáng)的大模型讀取簡單的模擬時(shí)鐘，準(zhǔn)確率只有 39%；讀日期，只有 23%。這種人類能輕松獲取的基礎(chǔ)能力上的短板，暴露出模型在“理解”層面上的結(jié)構(gòu)性局限。其次是存在幻覺問題，大模型會自信地說錯(cuò)。人類對于自己的不確定性是有意識的，而大模型則看似篤定地給出錯(cuò)誤答案。最后是缺乏真正的認(rèn)知能力，例如物理直覺、因果推理、結(jié)構(gòu)化認(rèn)知等。模型會“照貓畫虎”地套用過去的模式，卻未真正理解背后機(jī)制。

這些問題讓我們意識到：光靠一個(gè)大模型，不足以支撐真正的智能體。我們需要給它一些列外掛，包括自我認(rèn)知（Self-awareness）、記憶系統(tǒng)（Memory）、任務(wù)分解（Decomposition）、計(jì)劃能力（Planning）、與環(huán)境互動的感知（Perception）和工具與知識庫的調(diào)度能力（Tool-use）。

Agent 的出現(xiàn)，正是為了解決這些“大模型做不到的問題”。

然而，擁有一個(gè)宏觀框架是不夠的，更重要的是：如何真正把 Agent 做出來？

接下來，芮勇博士將對AI Agent的落地和發(fā)展進(jìn)行深刻思考，提出九個(gè)重要的問題。

第一問：控制論能否啟發(fā)AI Agent的設(shè)計(jì)？

芮勇博士首先提出“第一個(gè)問題”：控制論在過去半個(gè)多世紀(jì)取得巨大成功，其中的思維方式與體系結(jié)構(gòu)，是否能夠啟發(fā)我們今天設(shè)計(jì) AI Agents？

芮勇博士指出，控制論中的經(jīng)典框架包括：前置控制器（Controller），后置反饋系（Feedback）和被控對象（Plant），而這套結(jié)構(gòu)與當(dāng)前LLM Agent 架構(gòu)之間存在高度相似性。

首先前饋控制器對應(yīng)prompt優(yōu)化，讓大模型輸出更準(zhǔn)確、更穩(wěn)定、更可控。例如在數(shù)學(xué)推理和具身智能的任務(wù)中，未加入前饋控制器的情況下，大模型直接接收任務(wù)，輸出質(zhì)量往往不穩(wěn)定，出現(xiàn)遺漏步驟、產(chǎn)生偏差等問題。如果在前面加入一個(gè)可學(xué)習(xí)的小模型作為控制器，將任務(wù)自動分解成多個(gè)可執(zhí)行步驟，再將這些結(jié)構(gòu)化信息喂給大模型，則正確率會顯著提升。

其次反饋機(jī)制在 AI Agent 中同樣極為關(guān)鍵，而且目前行業(yè)已經(jīng)出現(xiàn)明顯趨勢——由人類反饋（RLHF）向 AI 反饋（RLAIF）轉(zhuǎn)變。例如OpenAI 的CriticGPT，用 GPT-4 生成程序代碼，再用另一個(gè) GPT-4 模型進(jìn)行代碼審查。結(jié)果非常顯著，錯(cuò)誤檢查效率提升 60%。系統(tǒng)形成了“模型糾模型”的自循環(huán)反饋，不再依賴大量人工注釋。

芮勇博士總結(jié)到，控制論思想正在重新啟發(fā) AI Agent 的結(jié)構(gòu)設(shè)計(jì)。其中大模型是被控對象，小模型作為前饋控制器使系統(tǒng)更穩(wěn)定、更可控，反饋機(jī)制讓系統(tǒng)實(shí)現(xiàn)自我閉環(huán)?？刂普摰慕Y(jié)構(gòu)與 Agent 架構(gòu)高度一致，啟發(fā) AI Agent 的設(shè)計(jì)與實(shí)現(xiàn)。并且未來的 Agent 系統(tǒng)很可能沿著“前饋 + 反饋”的閉環(huán)路徑持續(xù)演化。

第二問：認(rèn)知心理學(xué)能否啟發(fā)AI Agent設(shè)計(jì)？

接著，芮勇博士將關(guān)注點(diǎn)轉(zhuǎn)向了大模型的 記憶（Memory）機(jī)制。芮勇博士指出，當(dāng)今基于 Transformer 架構(gòu)的大模型在本質(zhì)上存在結(jié)構(gòu)性限制，缺乏真正意義上的記憶系統(tǒng)。這與人類認(rèn)知方式存在根本差異，也可能成為未來系統(tǒng)能力提升的瓶頸。從而芮勇博士提出第二個(gè)問題，認(rèn)知心理學(xué)能否啟發(fā)AI Agent設(shè)計(jì)？

首先，在多輪對話與長鏈任務(wù)中，AI 系統(tǒng)依賴不斷增長的上下文序列進(jìn)行推理，導(dǎo)致上下文窗口迅速膨脹，從而內(nèi)存與算力消耗急劇上升，推理能力顯著下降。相比之下，人類會自動對大量冗余內(nèi)容進(jìn)行壓縮，將過去的對話或任務(wù)歸納成簡潔的要點(diǎn)，從而節(jié)省工作記憶資源。芮勇博士指出，將人類這種摘要式記憶機(jī)制應(yīng)用于 Agent 的短期記憶，可以顯著降低計(jì)算負(fù)擔(dān)并提升長序列任務(wù)穩(wěn)定性。

接著芮勇博士指出，長期的記憶能夠讓Agent持續(xù)積累經(jīng)驗(yàn)，使記憶不斷迭代優(yōu)化，體現(xiàn)出與人類學(xué)習(xí)方式高度相似的邏輯。芮勇博士以Reasoning Bank為例，說明Agent模擬人類長期記憶與工作記憶的相互作用。Reasoning Bank首先根據(jù)當(dāng)前任務(wù)從長期記憶中提取最相關(guān)的內(nèi)容，填充到工作記憶中。接著針對任務(wù)執(zhí)行情況進(jìn)行結(jié)構(gòu)化總結(jié)。這些結(jié)構(gòu)化結(jié)果再被更新到長期記憶，從而實(shí)現(xiàn)類似人類“學(xué)習(xí)—固化—提取”的循環(huán)。

芮勇博士總結(jié)到，人類認(rèn)知心理學(xué)關(guān)于記憶結(jié)構(gòu)與記憶流動的研究，能夠?yàn)?AI Agent 的體系化設(shè)計(jì)提供關(guān)鍵啟發(fā)。無論是短期記憶的壓縮方式，還是短期與長期記憶之間的動態(tài)交互，都將是構(gòu)建更智能、更可持續(xù)進(jìn)化的 Agent 系統(tǒng)的核心方向。

第三問：計(jì)算機(jī)網(wǎng)絡(luò)能否啟發(fā)AI Agent的設(shè)計(jì)？

接著，芮勇博士指出，對于支持 AI Agent 運(yùn)行的“工具”體系，無論是互聯(lián)網(wǎng)、工具庫、應(yīng)用程序，還是知識庫，大模型本身都無法直接調(diào)用這些外部對象，必須借助外掛式的工具接口。但這些工具應(yīng)當(dāng)如何構(gòu)建？這一問題可以從計(jì)算機(jī)網(wǎng)絡(luò)的設(shè)計(jì)中獲得啟發(fā)。

芮勇博士指出AI Agent 如今面臨與 1990 年代互聯(lián)網(wǎng)相同的瓶頸，即缺乏統(tǒng)一協(xié)議來訪問外部服務(wù)。芮勇博士認(rèn)為，Meta 的 MCP、輕量級的 Skills 以及微軟的 NLWeb，正在構(gòu)建類似“Agent 時(shí)代的 HTTP”的基礎(chǔ)通信層，使傳統(tǒng)服務(wù)重新對大模型可訪問，并可能像 Mosaic 之于互聯(lián)網(wǎng)一樣，推動 Agent 生態(tài)產(chǎn)生爆發(fā)式發(fā)展。

上述三個(gè)關(guān)于科學(xué)理論如何啟發(fā)AI Agent設(shè)計(jì)的問題，芮勇博士都為我們指明了答案，其中控制論幫助解決任務(wù)分解與系統(tǒng)穩(wěn)定性；認(rèn)知心理學(xué)幫助設(shè)計(jì)短期與長期記憶機(jī)制；計(jì)算機(jī)網(wǎng)絡(luò)理論提供 Agent 訪問外部工具的基礎(chǔ)設(shè)施，推動生態(tài)爆發(fā)。

接下來芮勇博士繼續(xù)為AI Agent的開放性問題和未來發(fā)展提出深刻的思考和見解。

第四問：語言生成是否能達(dá)到人類水平的推理能力？

從 1943 年最早的神經(jīng)元模型開始，人們逐步發(fā)展出人工神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)體系?；谶@一視角，芮勇博士指出一個(gè)耐人尋味的現(xiàn)象，人類大腦的新皮層中負(fù)責(zé)語言的區(qū)域，與負(fù)責(zé)推理的區(qū)域是分離的。但現(xiàn)代大模型僅通過預(yù)測下一 token的語言建模方式訓(xùn)練，卻意外表現(xiàn)出一定程度的推理與思考能力。這就引出了第四個(gè)問題：僅依靠語言生成的訓(xùn)練范式，是否可能通向類人級推理？這一路徑是否科學(xué)可行？

芮勇博士引用 MIT 的腦區(qū)激活實(shí)驗(yàn)指出，人在進(jìn)行語言表達(dá)、邏輯推理、社會推理時(shí)分別激活大腦中完全不同的區(qū)域。這些區(qū)塊功能高度區(qū)分，說明語言與推理在人類生理上并沒有共用的基礎(chǔ)機(jī)制。相比之下，大模型卻試圖依托“語言區(qū)域的模擬”（即純語言建模）去實(shí)現(xiàn)推理功能，這在生物學(xué)意義上顯得不合常理。因此，芮勇博士強(qiáng)調(diào)：我們?nèi)詿o法確定這條路徑是否能走通，語言生成是否能真正導(dǎo)向人類級推理仍是一個(gè)未解之謎。

第五問：LLM和人類是否以同樣方式壓縮信息？

接著芮勇博士指出，在信息論框架下，一個(gè)流行觀點(diǎn)認(rèn)為“智能本質(zhì)上就是信息壓縮”。如果能以恰當(dāng)方式壓縮世界的信息，智能便隨之涌現(xiàn)。于是芮勇博士提出第五個(gè)問題：大模型的壓縮方式是否與人類大腦的壓縮方式一致？

芮勇博士引用近期Yann LeCun的研究工作，提出有關(guān)“大模型壓縮對比人類大腦壓縮”的三條重要觀察。首先，外部分類高度相似，大模型在壓縮后形成的語義聚類與人類定義的概念類別有超過 90% 的一致性。其次，內(nèi)部表征顯著不同，雖然分類類似，但大模型內(nèi)部的表征結(jié)構(gòu)與人類認(rèn)知機(jī)制在細(xì)節(jié)層面存在巨大差異。最后，大模型壓縮效率更強(qiáng)但未必認(rèn)知更優(yōu)，大模型的壓縮在信噪比方面甚至優(yōu)于人類，但這種壓縮方式可能并非最符合認(rèn)知規(guī)律。

因此，芮勇博士強(qiáng)調(diào)。如果大模型的壓縮與人類截然不同，我們是否仍然走在通向真正智能的正確道路上？

第六問：統(tǒng)計(jì)學(xué)習(xí)是否實(shí)現(xiàn)真正的理解？

第六個(gè)問題聚焦于統(tǒng)計(jì)學(xué)習(xí)能否真正產(chǎn)生“理解”。芮勇博士指出，人類只需要極少的樣本就能形成概念（例如小孩看三只貓就能認(rèn)識“貓”），而機(jī)器學(xué)習(xí)尤其是深度學(xué)習(xí)往往需要百萬級示例才能完成同樣任務(wù)?；谶@種學(xué)習(xí)方式的根本差異，芮勇博士提出疑問：大模型依賴統(tǒng)計(jì)學(xué)習(xí)的范式，真的能達(dá)到真正的理解嗎？這一點(diǎn)目前仍然沒有答案。

第七問：LLM的Scaling Law能走多遠(yuǎn)？

第七個(gè)問題圍繞依賴 Scaling Law 的AI能走多遠(yuǎn)。芮勇博士指出，深度學(xué)習(xí)的發(fā)展歷程從 FCN、CNN、RNN、LSTM 到 Transformer，一路都依賴不斷設(shè)計(jì)更好的結(jié)構(gòu)，因此形成了第一類觀點(diǎn)：繼續(xù)優(yōu)化結(jié)構(gòu)、尋找更合適的拓?fù)?，是性能提升的關(guān)鍵。但另一類觀點(diǎn)認(rèn)為：許多結(jié)構(gòu)是因過去算力與數(shù)據(jù)不足被迫設(shè)計(jì)的“捷徑”；在數(shù)據(jù)與算力足夠大時(shí)，反而是更少結(jié)構(gòu)、更自由的超大模型能在規(guī)模極致后超越復(fù)雜結(jié)構(gòu)。問題的核心在于：未來智能的突破究竟來自結(jié)構(gòu)工程，還是來自無結(jié)構(gòu)模型在極端規(guī)模下的自我涌現(xiàn)？

第八問：預(yù)訓(xùn)練對于快速演化是否必要？

芮勇博士的第八個(gè)問題討論經(jīng)驗(yàn)學(xué)習(xí)和進(jìn)化。以圖靈獎(jiǎng)得主 Richard Sutton 為代表的一派認(rèn)為人類是“無預(yù)訓(xùn)練”的，完全依靠 on-the-fly 學(xué)習(xí)，因此大模型依賴大規(guī)模預(yù)訓(xùn)練是根本錯(cuò)誤的方向。以 Andrej Karpathy 為代表的另一派則認(rèn)為人類其實(shí)擁有經(jīng)過數(shù)百萬年進(jìn)化而積累的“DNA 預(yù)訓(xùn)練”，而AI沒有這段漫長的演化，因此預(yù)訓(xùn)練反而是必要的“快速演化捷徑”。由此芮勇博士總結(jié)到：預(yù)訓(xùn)練在沒有演化時(shí)間的情況下可能是必須的，但遠(yuǎn)遠(yuǎn)不夠，持續(xù)學(xué)習(xí)仍然是不可替代的關(guān)鍵環(huán)節(jié)。

第九問：AGI是否需要新的架構(gòu)？

最后，芮勇博士提出了“理論完備性”的終極發(fā)問：當(dāng)下的大模型范式究竟只是需要若干關(guān)鍵突破與局部增強(qiáng)（如 memory、tool use、task decomposition）的“可修補(bǔ)體系”，還是像 Hinton 所說那樣在根本上走向瓶頸、必須被徹底重建？與 Hassabis 認(rèn)為“或許只差一兩次突破”即可抵達(dá) AGI 的樂觀態(tài)度形成鮮明對比，這個(gè)問題直指 AI 研究的根基——我們是在完善一座已成型的大廈，還是在面對一個(gè)需要重新設(shè)計(jì)的結(jié)構(gòu)？芮勇博士坦言，答案目前無人知曉，這正是未來最值得探討的不確定性。

最后，芮勇博士總結(jié)到，回到這九個(gè)問題本身，它們其實(shí)構(gòu)成了一個(gè)從實(shí)踐到趨勢、再到前沿思辨的完整結(jié)構(gòu)。前三個(gè)問題給出了可落地的方法論，中間三個(gè)問題帶來了值得持續(xù)觀察的趨勢，而最后三個(gè)問題更是尚無定論的開放探索。也正因?yàn)槲粗?，我們才不斷走向研究的邊界?br/>

在這九個(gè)問題里，我們既看到 AI Agent發(fā)展的清晰路徑，也看到通往未來的巨大不確定性；而正是這些確定與未知，共同構(gòu)成了當(dāng)下最迷人的時(shí)代命題。

點(diǎn)擊查看完整講座視頻

AIR長期招聘人工智能領(lǐng)域優(yōu)秀科研人員

點(diǎn)這里關(guān)注我們

關(guān)于AIR

清華大學(xué)智能產(chǎn)業(yè)研究院（Institute for AI Industry Research, Tsinghua University，英文簡稱AIR，THU）是面向第四次工業(yè)革命的國際化、智能化、產(chǎn)業(yè)化的校級研究機(jī)構(gòu)。AIR的使命是利用人工智能技術(shù)賦能產(chǎn)業(yè)升級、推動社會進(jìn)步。通過大學(xué)與企業(yè)創(chuàng)新雙引擎，突破人工智能核心技術(shù)，培養(yǎng)智能產(chǎn)業(yè)領(lǐng)軍人才，推動智能產(chǎn)業(yè)跨越式發(fā)展。

AIR于2020年由多媒體及人工智能領(lǐng)域的世界級科學(xué)家、企業(yè)家張亞勤院士創(chuàng)建。

智慧交通（AI＋Transportation）、智慧物聯(lián)（AI＋I(xiàn)oT）、智慧醫(yī)療（AI＋Life Science）是清華大學(xué)智能產(chǎn)業(yè)研究院的三個(gè)重點(diǎn)研發(fā)方向。