国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

AI Agent的困境:AI沒有人類的情緒偏見,無法“靠感覺”篩選

0
分享至

1990年代,神經(jīng)科學(xué)家 Antonio Damasio 遇到一個奇怪的病人。這人叫 Elliot,腦部手術(shù)切除了一個腫瘤,順帶損傷了前額葉的一小塊區(qū)域。手術(shù)后,智商測試正常,邏輯推理正常,記憶力正常,所有認知指標都沒問題。但他沒法正常生活了。

他沒法做決定。不是不會分析——恰恰相反,他分析得太好了。選午餐吃什么,他能花半小時權(quán)衡每家餐廳的優(yōu)缺點。選用藍筆還是黑筆簽字,他能陷入無盡的比較。老板解雇了他,妻子離開了他。Damasio 研究了很久,最后得出結(jié)論:Elliot 損傷的那塊腦區(qū),負責把情緒和決策連接起來。沒有了情緒的"偏見"來幫他篩選,所有選項在他眼里同等重要。所有選項同等重要,等于沒有選項重要。

我們通常把"限制"當成壞事。更多信息更好,更多選擇更好,更強的處理能力更好。Elliot 的案例指向相反的結(jié)論:約束不是決策的障礙,而是決策的前提。

人類的情緒系統(tǒng)本質(zhì)上是一套篩選機制。當你面對選擇時,它把你過去的經(jīng)驗、當前的身體狀態(tài)、社會信號,整合成一個"感覺"——"這個選項讓我不舒服"。你不需要推演導(dǎo)致這個感覺的所有原因,情緒直接給你一個傾向。這是一種偏見,但沒有這種偏見,你會像 Elliot 一樣卡在原地。

這和 AI 有什么關(guān)系?表面上看,Elliot 的問題是"情緒缺失",AI agent 的問題是"context 管理",一個是神經(jīng)科學(xué),一個是工程實踐。但往深一層看,它們是同一個問題的不同表現(xiàn):有限的處理能力如何面對無限的信息?

Elliot 的處理能力沒問題,但他失去了告訴他"關(guān)注這里、忽略那里"的機制。AI agent 的處理能力也沒問題,但 context window 有上限——它必須決定把什么放進去、把什么留在外面。人類用情緒來篩選。AI 用什么?

AI 領(lǐng)域有一個已經(jīng)被實證驗證的現(xiàn)象:context 越長,模型表現(xiàn)不一定越好。研究顯示,當 context 變長時,模型容易"迷失在中間"——對 context 開頭和結(jié)尾的信息關(guān)注度高,中間的信息容易被忽略。更多的信息塞進去,反而可能稀釋真正重要的內(nèi)容。這不完全是 Elliot 的問題,但有相似的結(jié)構(gòu):當所有信息都擺在面前,沒有機制來區(qū)分重要和不重要,系統(tǒng)的表現(xiàn)會下降。

AI 領(lǐng)域發(fā)展出了一系列技術(shù)來應(yīng)對這個問題。看起來五花八門,但本質(zhì)上都在做同一件事:決定 LLM 應(yīng)該"看到"什么。

Skills 和 SubAgent 是兩種不同的能力組織方式。Skills 是把能力內(nèi)化:你想讓 agent 會寫 PPT,就把工具說明、調(diào)用方式、注意事項塞進它的 context,它讀完說明自己動手,所有過程發(fā)生在同一個 context 里,信息互通,但 context 會越來越臃腫。SubAgent 是把能力外包:你派一個專門的 agent 去寫 PPT,它做完把結(jié)果交回來,兩個 agent 各有獨立的 context,主 agent 的工作空間保持干凈,但信息在交接時有損耗——你只拿到對方選擇告訴你的東西。一個是"我自己學(xué)會",一個是"我找人幫忙",本質(zhì)區(qū)別是 context 的邊界:共享還是隔離。

MCP 和 A2A 是另一層的東西,它們是通信協(xié)議。MCP(Model Context Protocol)規(guī)定 agent 怎么發(fā)現(xiàn)和調(diào)用外部工具——有哪些工具可用,怎么傳參數(shù),怎么拿結(jié)果。A2A(Agent2Agent)規(guī)定 agent 之間怎么對話——怎么發(fā)現(xiàn)對方,怎么協(xié)商任務(wù),怎么交換信息。它們定義的是信息怎么流動,不規(guī)定信息怎么篩選。一個 MCP 工具,你可以直接塞進主 agent 的 context,也可以讓另一個 agent 去調(diào)用然后匯報結(jié)果。協(xié)議是管道,架構(gòu)才是決定 context 怎么組織的地方。

Context compression 是在空間不夠時做取舍。兩種主流方法:一種是直接砍掉舊的內(nèi)容,只保留最近的信息,快但粗暴,可能砍掉重要的早期信息;另一種是用模型生成摘要,把長歷史壓縮成短結(jié)論,保留了信息的"精華",但摘要本身是一次有損轉(zhuǎn)換——摘要者認為不重要的細節(jié)可能恰恰是后續(xù)決策需要的。

這里有一個經(jīng)常被技術(shù)討論忽略的因素:成本。Context 不是免費的,更長的 context 意味著更多的計算量、更高的延遲、更貴的 API 賬單。在生產(chǎn)環(huán)境里,一個任務(wù)跑幾分鐘還是幾秒鐘,可能決定了這個方案能不能用。所以 context 管理不只是"怎么讓 agent 更聰明"的問題,也是"怎么在預(yù)算內(nèi)完成任務(wù)"的問題。你可能有能力把所有相關(guān)信息都塞進 context,但你付不起那個錢。約束不只來自技術(shù)上限,也來自經(jīng)濟現(xiàn)實。

把這些技術(shù)放在一起看,它們都在回答同一個問題:這一輪推理,LLM 應(yīng)該"看到"什么?System prompt 是預(yù)加載的背景,few-shot examples 是塞進去的參考案例,RAG 檢索是按需拉取的外部知識,tool schema 是能力的說明書,用戶消息是實時輸入。所有東西都是 context 的一部分,所有決策都是 context 管理決策。

有人開始用"context engineering"這個詞來描述這件事。它不是 prompt engineering 的新說法,而是一個更大的框架:怎么組織信息,讓有限的工作記憶處理超出其容量的任務(wù)。

人類解決這個問題已經(jīng)有很長的歷史。組織架構(gòu)本身就是一套 context 管理系統(tǒng)——誰需要知道什么,信息怎么流動,在哪里匯總,在哪里展開。專業(yè)分工讓不同的人處理不同的信息,層級結(jié)構(gòu)讓細節(jié)在底層處理、結(jié)論向上傳遞,文檔系統(tǒng)把信息外化、需要時再加載。

但人類還有一些更底層的機制,AI 目前沒有對應(yīng)物。

漸進遺忘:人類的記憶不是"有"或"沒有",而是會逐漸模糊。你記得三年前和某人吃過飯,細節(jié)沒了,但"那次聊得挺愉快"的印象還在,這種低精度的記憶仍然能指導(dǎo)決策。AI 的 context 是二元的,在窗口里就完整保留,不在就徹底消失。

重要性標記:你更容易記住讓你意外、緊張、開心的事情,情緒充當了重要性的標簽。AI 沒有這種內(nèi)在的重要性判斷——它只能依靠位置(最近的更重要)或外部規(guī)則(用戶說重要的更重要)來決定保留什么。

重建而非檢索:人類回憶不是從存儲里讀取文件,而是每次基于碎片重新構(gòu)建。這意味著同一段經(jīng)歷在不同情境下回想會呈現(xiàn)不同的側(cè)面,有失真的風險,但也有適應(yīng)當前需求的能力。

這些機制能直接移植到 AI 嗎?不一定。

人類的記憶機制是為人類的任務(wù)優(yōu)化的。人類的"任務(wù)"是什么?活下去、繁衍、維持社會關(guān)系——模糊、長期、多目標。漸進遺忘、情緒標記、重建式記憶,在這個框架下是 adaptive 的。AI agent 的任務(wù)通常更明確、更短期、更單一:寫這份報告、修這個 bug、回答這個問題。在這種任務(wù)下,人類記憶機制的"模糊性"可能反而是負擔,你不希望 agent "隱約記得"你的需求是什么。

但有一個趨勢:AI 的任務(wù)正在變化。從單輪問答到長程對話,從執(zhí)行指令到自主規(guī)劃,從單獨工作到多 agent 協(xié)作,任務(wù)變得更模糊、更長期、更復(fù)雜。這意味著為簡單任務(wù)設(shè)計的 context 管理方式,可能在新的任務(wù)類型上失效。

還有一個問題值得展開:當 context 經(jīng)過多次處理后,它還可靠嗎?

壓縮會丟細節(jié),摘要會引入偏差,跨 agent 傳遞時每一方都只傳自己認為重要的內(nèi)容。鏈條拉長后,最終 agent 做決策時依據(jù)的信息,可能和原始事實有顯著偏離。這個問題人類也有,叫組織里的信息失真——一線發(fā)生的事,經(jīng)過幾層匯報傳到?jīng)Q策者那里,可能已經(jīng)變形了,每一層都在壓縮、都在篩選、都在用自己的框架重新解讀。

人類發(fā)展出一些對策:冗余通道,同一件事通過多條線傳遞來交叉驗證;越級機制,允許信息繞過某些層級直接向上;實地考察,決策者偶爾下到一線直接接觸未經(jīng)過濾的信息;匿名反饋,讓原本不敢說的話有出口。這些機制的共同點是給被壓縮掉的信息一條繞過壓縮的路徑。

AI 系統(tǒng)需要對應(yīng)的設(shè)計嗎?如果一個 SubAgent 的摘要漏掉了關(guān)鍵信息,主 agent 怎么知道?如果 context 經(jīng)過多輪壓縮后失真了,系統(tǒng)怎么發(fā)現(xiàn)?目前沒有好的答案,這是 context engineering 還沒認真處理的一個維度。

現(xiàn)在回到開頭的問題。Damasio 的研究告訴我們,約束不是決策的障礙,而是決策的前提。Elliot 失去了幫他篩選的機制,獲得了"純粹理性"的分析能力,結(jié)果是癱瘓。

AI 領(lǐng)域正在發(fā)生一件事:context window 在快速擴大。幾年前4K tokens,現(xiàn)在128K 是標配,有的模型宣稱支持百萬甚至千萬級別。如果這個趨勢持續(xù),context 容量可能很快不再是硬約束。

這是好事嗎?不一定。容量約束消失后,問題不會消失,只會換一種形式。如果你有無限的 context,但沒有機制告訴你什么重要、什么可以忽略,你會陷入 Elliot 的困境:所有信息同等重要,等于沒有信息重要。你需要的不是更大的窗口,而是一套篩選標準。

約束可以是容量的(塞不下),也可以是注意力的(看不過來),也可以是經(jīng)濟的(付不起),也可以是認知的(不知道該關(guān)注什么)。移除一種約束,另一種會變得突出。人類用情緒、直覺、經(jīng)驗沉淀下來的"感覺"來提供認知約束,AI 目前沒有對應(yīng)物,它的篩選標準來自外部:位置、規(guī)則、用戶指令。當容量不再是瓶頸時,這個缺失會變得更明顯。

所以,最后一個問題:當 context 容量不再是瓶頸時,什么會成為新的瓶頸?

也許答案是:一套內(nèi)生的重要性判斷機制——不依賴外部規(guī)則,能讓系統(tǒng)自己知道該關(guān)注什么、可以忽略什么。Elliot 需要的不是更大的腦容量,他需要的是一個能告訴他"這個選項不對勁"的聲音。



特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
潘石屹兩次蛐蛐許家印

潘石屹兩次蛐蛐許家印

哲空空
2026-04-19 11:07:10
為什么說印度的海岸線,遠看是老天爺賞飯,近看是逗你玩兒?

為什么說印度的海岸線,遠看是老天爺賞飯,近看是逗你玩兒?

半解智士
2026-04-16 17:10:39
一戰(zhàn)造10紀錄比肩霍里!肯納德3分歷史最準 雷迪克:他侵略性十足

一戰(zhàn)造10紀錄比肩霍里!肯納德3分歷史最準 雷迪克:他侵略性十足

顏小白的籃球夢
2026-04-20 07:03:50
血管要有事,眼睛先報警,出現(xiàn)幾種信號,再拖就是腦梗、失明了

血管要有事,眼睛先報警,出現(xiàn)幾種信號,再拖就是腦梗、失明了

芹姐說生活
2026-04-17 14:28:16
博士生過剩,高校裝不下了

博士生過剩,高校裝不下了

麥可思研究
2026-04-19 17:10:25
納帥:為格納布里難過,在國家隊層面我們所有人都會支持他

納帥:為格納布里難過,在國家隊層面我們所有人都會支持他

懂球帝
2026-04-19 19:55:57
NBA年度最佳第六人最終候選:哈達威、哈克斯、凱爾登-約翰遜

NBA年度最佳第六人最終候選:哈達威、哈克斯、凱爾登-約翰遜

懂球帝
2026-04-20 06:45:04
雷霆119-84戰(zhàn)勝太陽,一戰(zhàn)讓人看清以下三位球員!

雷霆119-84戰(zhàn)勝太陽,一戰(zhàn)讓人看清以下三位球員!

君子一劍似水流年
2026-04-20 06:34:30
直至陳瑤沖上熱搜,才知為何她人美戲好卻始終不火,吳鎮(zhèn)宇說對了

直至陳瑤沖上熱搜,才知為何她人美戲好卻始終不火,吳鎮(zhèn)宇說對了

劇芒芒
2026-04-17 15:13:34
我敢說,大部分會跟我一樣,選擇黑色衣服那個女孩!

我敢說,大部分會跟我一樣,選擇黑色衣服那個女孩!

草莓解說體育
2026-04-12 17:05:01
剛剛!集體下跌

剛剛!集體下跌

中國基金報
2026-04-19 19:32:16
豪擲120億!巴鐵要買40架殲-35A?背后金主發(fā)力,巴媒:碾壓印度10年

豪擲120億!巴鐵要買40架殲-35A?背后金主發(fā)力,巴媒:碾壓印度10年

健身狂人
2026-04-19 20:02:22
G1輸球不可怕!可怕的是火箭主帥烏度卡賽后這番話,習(xí)慣性甩鍋!

G1輸球不可怕!可怕的是火箭主帥烏度卡賽后這番話,習(xí)慣性甩鍋!

田先生籃球
2026-04-19 15:17:44
賠光2億后,冉瑩穎獨自搬家30箱未給鄒市明留體面

賠光2億后,冉瑩穎獨自搬家30箱未給鄒市明留體面

春之韻
2026-03-18 09:32:52
4.20股市早8點丨“大消息”說來就來

4.20股市早8點丨“大消息”說來就來

沙黽農(nóng)
2026-04-20 06:21:13
1947年,孫殿英被解放軍活捉,劉伯承:此人不可殺,他對我們有恩

1947年,孫殿英被解放軍活捉,劉伯承:此人不可殺,他對我們有恩

老謝談史
2026-04-20 07:39:10
悲催!一92歲奶奶輕生,只因深信“壽命太長,會折了后人的壽”

悲催!一92歲奶奶輕生,只因深信“壽命太長,會折了后人的壽”

火山詩話
2026-04-19 07:34:33
連入三球,吉布斯-懷特職業(yè)生涯首次上演帽子戲法

連入三球,吉布斯-懷特職業(yè)生涯首次上演帽子戲法

懂球帝
2026-04-19 22:47:08
別再只看中超豪門了!重慶銅梁龍的崛起,藏著中國足球的真正出路

別再只看中超豪門了!重慶銅梁龍的崛起,藏著中國足球的真正出路

圣西羅的太陽
2026-04-19 07:42:38
重慶撒潑“毒母女”一夜全國出名,誰看了不喊一句離譜!

重慶撒潑“毒母女”一夜全國出名,誰看了不喊一句離譜!

脆皮先生
2026-04-19 19:37:38
2026-04-20 08:36:49
風向觀察
風向觀察
關(guān)注新聞
204文章數(shù) 4192關(guān)注度
往期回顧 全部

科技要聞

50分26秒破人類紀錄!300臺機器人狂飆半馬

頭條要聞

特朗普:美伊20日將舉行談判 再不接受協(xié)議就轟炸伊朗

頭條要聞

特朗普:美伊20日將舉行談判 再不接受協(xié)議就轟炸伊朗

體育要聞

湖人1比0火箭:老詹比烏度卡像教練

娛樂要聞

何潤東漲粉百萬!內(nèi)娛隔空掀桌第一人

財經(jīng)要聞

華誼兄弟,8年虧光85億

汽車要聞

29分鐘大定破萬 極氪8X為什么這么多人買?

態(tài)度原創(chuàng)

本地
親子
教育
旅游
藝術(shù)

本地新聞

12噸巧克力有難,全網(wǎng)化身超級偵探添亂

親子要聞

孩子總打噴嚏、起疹子,時過敏嗎?

教育要聞

孩子走到學(xué)校門口死活不進去,媽媽硬把他推進去

旅游要聞

賞花季來臨 一起去全國各地感受春日美好→

藝術(shù)要聞

蒲華寫水仙,清健嫵媚

無障礙瀏覽 進入關(guān)懷版