国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

AI Agent的困境:AI沒有人類的情緒偏見,無法“靠感覺”篩選

0
分享至

1990年代,神經(jīng)科學(xué)家 Antonio Damasio 遇到一個奇怪的病人。這人叫 Elliot,腦部手術(shù)切除了一個腫瘤,順帶損傷了前額葉的一小塊區(qū)域。手術(shù)后,智商測試正常,邏輯推理正常,記憶力正常,所有認知指標都沒問題。但他沒法正常生活了。

他沒法做決定。不是不會分析——恰恰相反,他分析得太好了。選午餐吃什么,他能花半小時權(quán)衡每家餐廳的優(yōu)缺點。選用藍筆還是黑筆簽字,他能陷入無盡的比較。老板解雇了他,妻子離開了他。Damasio 研究了很久,最后得出結(jié)論:Elliot 損傷的那塊腦區(qū),負責(zé)把情緒和決策連接起來。沒有了情緒的"偏見"來幫他篩選,所有選項在他眼里同等重要。所有選項同等重要,等于沒有選項重要。

我們通常把"限制"當成壞事。更多信息更好,更多選擇更好,更強的處理能力更好。Elliot 的案例指向相反的結(jié)論:約束不是決策的障礙,而是決策的前提。

人類的情緒系統(tǒng)本質(zhì)上是一套篩選機制。當你面對選擇時,它把你過去的經(jīng)驗、當前的身體狀態(tài)、社會信號,整合成一個"感覺"——"這個選項讓我不舒服"。你不需要推演導(dǎo)致這個感覺的所有原因,情緒直接給你一個傾向。這是一種偏見,但沒有這種偏見,你會像 Elliot 一樣卡在原地。

這和 AI 有什么關(guān)系?表面上看,Elliot 的問題是"情緒缺失",AI agent 的問題是"context 管理",一個是神經(jīng)科學(xué),一個是工程實踐。但往深一層看,它們是同一個問題的不同表現(xiàn):有限的處理能力如何面對無限的信息?

Elliot 的處理能力沒問題,但他失去了告訴他"關(guān)注這里、忽略那里"的機制。AI agent 的處理能力也沒問題,但 context window 有上限——它必須決定把什么放進去、把什么留在外面。人類用情緒來篩選。AI 用什么?

AI 領(lǐng)域有一個已經(jīng)被實證驗證的現(xiàn)象:context 越長,模型表現(xiàn)不一定越好。研究顯示,當 context 變長時,模型容易"迷失在中間"——對 context 開頭和結(jié)尾的信息關(guān)注度高,中間的信息容易被忽略。更多的信息塞進去,反而可能稀釋真正重要的內(nèi)容。這不完全是 Elliot 的問題,但有相似的結(jié)構(gòu):當所有信息都擺在面前,沒有機制來區(qū)分重要和不重要,系統(tǒng)的表現(xiàn)會下降。

AI 領(lǐng)域發(fā)展出了一系列技術(shù)來應(yīng)對這個問題??雌饋砦寤ò碎T,但本質(zhì)上都在做同一件事:決定 LLM 應(yīng)該"看到"什么。

Skills 和 SubAgent 是兩種不同的能力組織方式。Skills 是把能力內(nèi)化:你想讓 agent 會寫 PPT,就把工具說明、調(diào)用方式、注意事項塞進它的 context,它讀完說明自己動手,所有過程發(fā)生在同一個 context 里,信息互通,但 context 會越來越臃腫。SubAgent 是把能力外包:你派一個專門的 agent 去寫 PPT,它做完把結(jié)果交回來,兩個 agent 各有獨立的 context,主 agent 的工作空間保持干凈,但信息在交接時有損耗——你只拿到對方選擇告訴你的東西。一個是"我自己學(xué)會",一個是"我找人幫忙",本質(zhì)區(qū)別是 context 的邊界:共享還是隔離。

MCP 和 A2A 是另一層的東西,它們是通信協(xié)議。MCP(Model Context Protocol)規(guī)定 agent 怎么發(fā)現(xiàn)和調(diào)用外部工具——有哪些工具可用,怎么傳參數(shù),怎么拿結(jié)果。A2A(Agent2Agent)規(guī)定 agent 之間怎么對話——怎么發(fā)現(xiàn)對方,怎么協(xié)商任務(wù),怎么交換信息。它們定義的是信息怎么流動,不規(guī)定信息怎么篩選。一個 MCP 工具,你可以直接塞進主 agent 的 context,也可以讓另一個 agent 去調(diào)用然后匯報結(jié)果。協(xié)議是管道,架構(gòu)才是決定 context 怎么組織的地方。

Context compression 是在空間不夠時做取舍。兩種主流方法:一種是直接砍掉舊的內(nèi)容,只保留最近的信息,快但粗暴,可能砍掉重要的早期信息;另一種是用模型生成摘要,把長歷史壓縮成短結(jié)論,保留了信息的"精華",但摘要本身是一次有損轉(zhuǎn)換——摘要者認為不重要的細節(jié)可能恰恰是后續(xù)決策需要的。

這里有一個經(jīng)常被技術(shù)討論忽略的因素:成本。Context 不是免費的,更長的 context 意味著更多的計算量、更高的延遲、更貴的 API 賬單。在生產(chǎn)環(huán)境里,一個任務(wù)跑幾分鐘還是幾秒鐘,可能決定了這個方案能不能用。所以 context 管理不只是"怎么讓 agent 更聰明"的問題,也是"怎么在預(yù)算內(nèi)完成任務(wù)"的問題。你可能有能力把所有相關(guān)信息都塞進 context,但你付不起那個錢。約束不只來自技術(shù)上限,也來自經(jīng)濟現(xiàn)實。

把這些技術(shù)放在一起看,它們都在回答同一個問題:這一輪推理,LLM 應(yīng)該"看到"什么?System prompt 是預(yù)加載的背景,few-shot examples 是塞進去的參考案例,RAG 檢索是按需拉取的外部知識,tool schema 是能力的說明書,用戶消息是實時輸入。所有東西都是 context 的一部分,所有決策都是 context 管理決策。

有人開始用"context engineering"這個詞來描述這件事。它不是 prompt engineering 的新說法,而是一個更大的框架:怎么組織信息,讓有限的工作記憶處理超出其容量的任務(wù)。

人類解決這個問題已經(jīng)有很長的歷史。組織架構(gòu)本身就是一套 context 管理系統(tǒng)——誰需要知道什么,信息怎么流動,在哪里匯總,在哪里展開。專業(yè)分工讓不同的人處理不同的信息,層級結(jié)構(gòu)讓細節(jié)在底層處理、結(jié)論向上傳遞,文檔系統(tǒng)把信息外化、需要時再加載。

但人類還有一些更底層的機制,AI 目前沒有對應(yīng)物。

漸進遺忘:人類的記憶不是"有"或"沒有",而是會逐漸模糊。你記得三年前和某人吃過飯,細節(jié)沒了,但"那次聊得挺愉快"的印象還在,這種低精度的記憶仍然能指導(dǎo)決策。AI 的 context 是二元的,在窗口里就完整保留,不在就徹底消失。

重要性標記:你更容易記住讓你意外、緊張、開心的事情,情緒充當了重要性的標簽。AI 沒有這種內(nèi)在的重要性判斷——它只能依靠位置(最近的更重要)或外部規(guī)則(用戶說重要的更重要)來決定保留什么。

重建而非檢索:人類回憶不是從存儲里讀取文件,而是每次基于碎片重新構(gòu)建。這意味著同一段經(jīng)歷在不同情境下回想會呈現(xiàn)不同的側(cè)面,有失真的風(fēng)險,但也有適應(yīng)當前需求的能力。

這些機制能直接移植到 AI 嗎?不一定。

人類的記憶機制是為人類的任務(wù)優(yōu)化的。人類的"任務(wù)"是什么?活下去、繁衍、維持社會關(guān)系——模糊、長期、多目標。漸進遺忘、情緒標記、重建式記憶,在這個框架下是 adaptive 的。AI agent 的任務(wù)通常更明確、更短期、更單一:寫這份報告、修這個 bug、回答這個問題。在這種任務(wù)下,人類記憶機制的"模糊性"可能反而是負擔(dān),你不希望 agent "隱約記得"你的需求是什么。

但有一個趨勢:AI 的任務(wù)正在變化。從單輪問答到長程對話,從執(zhí)行指令到自主規(guī)劃,從單獨工作到多 agent 協(xié)作,任務(wù)變得更模糊、更長期、更復(fù)雜。這意味著為簡單任務(wù)設(shè)計的 context 管理方式,可能在新的任務(wù)類型上失效。

還有一個問題值得展開:當 context 經(jīng)過多次處理后,它還可靠嗎?

壓縮會丟細節(jié),摘要會引入偏差,跨 agent 傳遞時每一方都只傳自己認為重要的內(nèi)容。鏈條拉長后,最終 agent 做決策時依據(jù)的信息,可能和原始事實有顯著偏離。這個問題人類也有,叫組織里的信息失真——一線發(fā)生的事,經(jīng)過幾層匯報傳到?jīng)Q策者那里,可能已經(jīng)變形了,每一層都在壓縮、都在篩選、都在用自己的框架重新解讀。

人類發(fā)展出一些對策:冗余通道,同一件事通過多條線傳遞來交叉驗證;越級機制,允許信息繞過某些層級直接向上;實地考察,決策者偶爾下到一線直接接觸未經(jīng)過濾的信息;匿名反饋,讓原本不敢說的話有出口。這些機制的共同點是給被壓縮掉的信息一條繞過壓縮的路徑。

AI 系統(tǒng)需要對應(yīng)的設(shè)計嗎?如果一個 SubAgent 的摘要漏掉了關(guān)鍵信息,主 agent 怎么知道?如果 context 經(jīng)過多輪壓縮后失真了,系統(tǒng)怎么發(fā)現(xiàn)?目前沒有好的答案,這是 context engineering 還沒認真處理的一個維度。

現(xiàn)在回到開頭的問題。Damasio 的研究告訴我們,約束不是決策的障礙,而是決策的前提。Elliot 失去了幫他篩選的機制,獲得了"純粹理性"的分析能力,結(jié)果是癱瘓。

AI 領(lǐng)域正在發(fā)生一件事:context window 在快速擴大。幾年前4K tokens,現(xiàn)在128K 是標配,有的模型宣稱支持百萬甚至千萬級別。如果這個趨勢持續(xù),context 容量可能很快不再是硬約束。

這是好事嗎?不一定。容量約束消失后,問題不會消失,只會換一種形式。如果你有無限的 context,但沒有機制告訴你什么重要、什么可以忽略,你會陷入 Elliot 的困境:所有信息同等重要,等于沒有信息重要。你需要的不是更大的窗口,而是一套篩選標準。

約束可以是容量的(塞不下),也可以是注意力的(看不過來),也可以是經(jīng)濟的(付不起),也可以是認知的(不知道該關(guān)注什么)。移除一種約束,另一種會變得突出。人類用情緒、直覺、經(jīng)驗沉淀下來的"感覺"來提供認知約束,AI 目前沒有對應(yīng)物,它的篩選標準來自外部:位置、規(guī)則、用戶指令。當容量不再是瓶頸時,這個缺失會變得更明顯。

所以,最后一個問題:當 context 容量不再是瓶頸時,什么會成為新的瓶頸?

也許答案是:一套內(nèi)生的重要性判斷機制——不依賴外部規(guī)則,能讓系統(tǒng)自己知道該關(guān)注什么、可以忽略什么。Elliot 需要的不是更大的腦容量,他需要的是一個能告訴他"這個選項不對勁"的聲音。



特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
AI已經(jīng)能暢玩幾乎所有游戲了,那還要我干啥?

AI已經(jīng)能暢玩幾乎所有游戲了,那還要我干啥?

差評XPIN
2025-12-27 00:11:52
一路走好!1天傳出3位名人離世,最小僅37歲,死因令人唏噓

一路走好!1天傳出3位名人離世,最小僅37歲,死因令人唏噓

徐幫陽
2025-12-28 13:07:54
美國對臺110億軍售后,我國終于出重拳了,沙利文一句話亮了

美國對臺110億軍售后,我國終于出重拳了,沙利文一句話亮了

音樂時光的娛樂
2025-12-28 13:33:08
龐家在香港發(fā)布會上“火力全開”,龐家發(fā)言怒懟:你們也配是記者

龐家在香港發(fā)布會上“火力全開”,龐家發(fā)言怒懟:你們也配是記者

范剬舍長
2025-12-23 22:52:07
今冬最冷時間表出爐,什么最冷?2026年春節(jié)到底冷不冷?早了解

今冬最冷時間表出爐,什么最冷?2026年春節(jié)到底冷不冷?早了解

刺頭體育
2025-12-28 13:51:44
烏克蘭最美體操冠軍,放棄國籍做中國媳婦,37歲生二胎仍似少女

烏克蘭最美體操冠軍,放棄國籍做中國媳婦,37歲生二胎仍似少女

相思賦予誰a
2025-12-10 02:34:18
奶牛貓狂咬邊牧的臉,但死活咬不動,貓:沒見過這么厚的臉皮

奶牛貓狂咬邊牧的臉,但死活咬不動,貓:沒見過這么厚的臉皮

拜見喵主子
2025-12-27 12:23:43
洪都拉斯準總統(tǒng)公開喊話:與臺灣合作,要比與大陸合作好100倍

洪都拉斯準總統(tǒng)公開喊話:與臺灣合作,要比與大陸合作好100倍

策略述
2025-12-28 14:25:37
趙露思被鞠婧祎被秒的渣都不剩網(wǎng)友:苦練化妝技術(shù)奈何遇上建模怪

趙露思被鞠婧祎被秒的渣都不剩網(wǎng)友:苦練化妝技術(shù)奈何遇上建模怪

吳東升成
2025-12-26 05:39:04
臨終前的陳毅氣息微弱,葉劍英拿出毛主席的字條,緩緩開口:我知道你始終在等這個消息

臨終前的陳毅氣息微弱,葉劍英拿出毛主席的字條,緩緩開口:我知道你始終在等這個消息

桃煙讀史
2025-12-25 16:48:11
“蹭飯書記”,已卸任

“蹭飯書記”,已卸任

澎湃新聞
2025-12-27 16:53:03
弘一法師:人最大的悲哀,是一輩子都沒參透,這些簡單的道理

弘一法師:人最大的悲哀,是一輩子都沒參透,這些簡單的道理

木言觀
2025-12-28 09:37:17
俄烏戰(zhàn)爭再打半年,這場戰(zhàn)爭將超過一戰(zhàn),成為歷史上最長的拉鋸戰(zhàn)

俄烏戰(zhàn)爭再打半年,這場戰(zhàn)爭將超過一戰(zhàn),成為歷史上最長的拉鋸戰(zhàn)

娛宙觀
2025-12-02 17:50:14
《逍遙》:當35歲譚松韻遇上28歲侯明昊,才明白cp感確實是玄學(xué)

《逍遙》:當35歲譚松韻遇上28歲侯明昊,才明白cp感確實是玄學(xué)

芬霏劇時光
2025-12-27 19:41:17
墻倒眾人推!姜昆徒弟承認其在美國唱紅歌,狐貍尾巴藏不住了

墻倒眾人推!姜昆徒弟承認其在美國唱紅歌,狐貍尾巴藏不住了

鋭娛之樂
2025-12-28 08:41:04
中超最大牌外援?申花與30歲葡萄牙國腳談判!曾轟28球獲德甲銀靴

中超最大牌外援?申花與30歲葡萄牙國腳談判!曾轟28球獲德甲銀靴

我愛英超
2025-12-26 22:19:17
南京博物館已暫停金獸展覽,網(wǎng)購平臺出現(xiàn)大量仿制品

南京博物館已暫停金獸展覽,網(wǎng)購平臺出現(xiàn)大量仿制品

映射生活的身影
2025-12-25 22:58:40
97歲田華現(xiàn)狀曝光,和小孫子相依為命,住破舊老房子,日子清貧

97歲田華現(xiàn)狀曝光,和小孫子相依為命,住破舊老房子,日子清貧

以茶帶書
2025-12-02 18:11:43
Lisa在圣誕節(jié)二登瘋馬秀,由男友三公子陪同,直接打臉洗白的粉絲

Lisa在圣誕節(jié)二登瘋馬秀,由男友三公子陪同,直接打臉洗白的粉絲

芊手若
2025-12-26 15:32:19
小米澎湃OS 3正式版覆蓋更多機型,含REDMI K60系列等

小米澎湃OS 3正式版覆蓋更多機型,含REDMI K60系列等

IT之家
2025-12-28 10:18:11
2025-12-28 15:32:49
風(fēng)向觀察
風(fēng)向觀察
關(guān)注新聞
151文章數(shù) 3354關(guān)注度
往期回顧 全部

科技要聞

AR眼鏡第一案,究竟在爭什么?

頭條要聞

四川原副省長葉寒冰被通報:長期出入私人會所聚餐飲酒

頭條要聞

四川原副省長葉寒冰被通報:長期出入私人會所聚餐飲酒

體育要聞

83分鐘絕殺!曼城2-1年度收官:英超6連勝狂飆

娛樂要聞

姚晨打卡絕版機位 高崎機場背后的遺憾

財經(jīng)要聞

英偉達的收購史

汽車要聞

理想的2026:L9不容有失,i9再戰(zhàn)純電?

態(tài)度原創(chuàng)

親子
本地
數(shù)碼
公開課
軍事航空

親子要聞

62歲懷二胎真相驚人!醫(yī)生擔(dān)憂的惡心一幕曝光!

本地新聞

云游安徽|踏訪池州,讀懂山水間的萬年史書

數(shù)碼要聞

內(nèi)存漲價,日本秋葉原部分店鋪對高顯存顯卡限購

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

與特朗普會晤前 澤連斯基亮明“紅線”

無障礙瀏覽 進入關(guān)懷版