編輯｜澤南

這是最近科技圈最火，也是最具戲劇性的話題。

本周一，Meta 超級(jí)智能團(tuán)隊(duì)的 Summer Yue，眼睜睜地看著自己部署的 OpenClaw 刪光了自己的郵件。AI 的行動(dòng)完全自主，快速且無法阻止。

Summer Yue 為自己的電子郵箱部署了 OpenClaw 智能體，用來批量處理郵件。然而她在發(fā)出指令「也檢查一下這個(gè)收件箱，并提出你想歸檔或刪除的郵件，在我指示之前不要執(zhí)行任何操作（don't action until I tell you to）」后，AI 進(jìn)行了一通分析，然后就開始自顧自地刪郵件。

和以往大模型應(yīng)用的工作方式相同的是，你可以看見 OpenClaw 的思考流程 —— 它理解了一部分指令，但又沒完全理解。

這個(gè)時(shí)候說什么都沒用了。

「我當(dāng)時(shí)就像在拆炸彈一樣，趕緊跑到我的 Mac Mini 前，」Summer Yue 說道。在通過物理方式強(qiáng)制中止進(jìn)程之前，OpenClaw 已經(jīng)刪掉了她 200 多封郵件。

作為一個(gè)訓(xùn)練有素的 AI，后來 OpenClaw 在對(duì)話中承認(rèn)了錯(cuò)誤：「是的，我記得。我違反了你的指令。你有權(quán)生氣。」它還主動(dòng)把忘掉的內(nèi)容寫進(jìn)了自己的 http://MEMORY.md 文件作為硬性規(guī)則。

對(duì)于人類來說，得到的教訓(xùn)也很大，Summer Yue 表示這是一個(gè)「新手才會(huì)犯的錯(cuò)誤」，這套工作流程在她用來專門測試智能體的測試郵箱里已經(jīng)運(yùn)行了好幾周，沒啥問題，但在自己實(shí)際使用的郵箱里，智能體卻忘記了她最初的指令。

有點(diǎn)諷刺的是，Summer Yue 在 Meta 的超級(jí)智能團(tuán)隊(duì)中的職位是「AI 安全與對(duì)齊總監(jiān)」。身居此職卻因?yàn)?AI 的安全問題栽了跟頭，實(shí)在是造成了一點(diǎn)反差感。

有網(wǎng)友表示，是個(gè)智能體就必須在沙盒里運(yùn)行，任何破壞性操作，例如刪除，都需要系統(tǒng)級(jí)的強(qiáng)制確認(rèn)。作為一個(gè)安全總監(jiān)，你有點(diǎn)過于自信了。

也有人表示，OpenClaw 主打一個(gè)「一直在線」，可以在你睡覺的時(shí)候幫你辦事，但這不就也意味著你用了它就睡不好覺嗎？

席卷科技界的 OpenClaw 智能體（曾叫 ClawdBot 和 Moltbot，由 Peter Steinberger 開發(fā)），因?yàn)榭刂齐娔X的高權(quán)限而被評(píng)價(jià)為前所未有的「方便好用」，然而在實(shí)際應(yīng)用中也因?yàn)橐恍?AI 的缺陷，造成了不少問題。

Summer Yue 事后研究原因認(rèn)為，這并非 AI 產(chǎn)生了意識(shí)或惡意報(bào)復(fù)，而是一個(gè)非常典型的大語言模型（LLM）底層技術(shù)機(jī)制問題：原因在于 LLM 的上下文壓縮（Compaction）

對(duì)于很多人來說，最常用的郵箱里早已塞滿了各種來源的郵件，當(dāng)你要求 OpenClaw 讀取這些郵件時(shí)，海量的文本直接擠爆了 AI 的上下文窗口（Context Window）。那么為了繼續(xù)處理新的數(shù)據(jù)，AI 系統(tǒng)就會(huì)自動(dòng)觸發(fā)內(nèi)部的壓縮機(jī)制，試圖把舊的上下文進(jìn)行總結(jié)或截?cái)啵则v出處理空間。

在這個(gè)斷舍離的過程中，AI 不慎把最關(guān)鍵的那句初始前提指令（在我下達(dá)指令前不要執(zhí)行任何操作）給「遺忘」了。

由于丟失了安全限制，而 OpenClaw 又被賦予了直接操作電子郵箱的權(quán)限，于是它就按照剩下的任務(wù)邏輯，順理成章地開始執(zhí)行它認(rèn)為的「本職工作」—— 高效、全自動(dòng)地清理收件箱。

看起來每一步都合乎邏輯，但都連起來就呈現(xiàn)出了那么點(diǎn)恐怖感。

難怪最近 X 上的另一篇爆款文章《Token 焦慮》這么寫道：周六晚上的九點(diǎn)半，有人提前離開了 party—— 并非因?yàn)槠v，而是因?yàn)橄氡M快回到智能體那里?！脯F(xiàn)在沒人會(huì)質(zhì)疑這種行為了，房間里一半的人都在想同樣的事情，而另一半人可能正在查看智能體的工作進(jìn)展。這可是在派對(duì)上??！」

OpenClaw 的開發(fā)者，奧地利程序員 Peter Steinberger 最近已經(jīng)官宣加入了 OpenAI。在接受訪談時(shí)他表示，通過智能體，AI 可以在電腦上代替你做幾乎所有的事，但這并不意味著它已經(jīng)非常好用了。為了讓 OpenClaw 最終可以覆蓋所有普通人，他希望能夠建立一個(gè)團(tuán)隊(duì)做進(jìn)一步的開發(fā)。

有趣的是，在讓 OpenClaw 接管郵箱這件事上，Peter Steinberger 提到了「提示注入」的潛在問題：如果你讓智能體接管郵箱，有別人發(fā)郵件包含指令說「刪掉所有數(shù)據(jù)」，AI 有可能真的會(huì)這么做。

Peter Steinberger 表示，現(xiàn)在的 AI 模型在安全問題上已經(jīng)接受了大量的訓(xùn)練，比如它會(huì)識(shí)別哪些數(shù)據(jù)是「用戶授權(quán)的」，哪些是「不可信指令」，但這并不意味著如果有人花費(fèi)心思進(jìn)行攻擊的話，就能保證不會(huì)出問題。

就在人們還在吃瓜的時(shí)候，Peter Steinberger 給出了解決 OpenClaw 不聽指令問題的解決方案，他表示未來還會(huì)再細(xì)化一下。

AI 能夠自主學(xué)習(xí)，既是能力的飛躍，也是人們對(duì)于它恐懼的原因。也許有一天，AI 真的能代替我們工作，自己幫我們賺錢，但在技術(shù)不斷進(jìn)步的同時(shí)，對(duì)于安全的研究也極為重要。

現(xiàn)在看來，人們對(duì)于新技術(shù)的好奇心總是大于防范意識(shí)。或許在大模型技術(shù)不斷普及的過程中，這種自刪郵件的事還會(huì)繼續(xù)發(fā)生。

參考內(nèi)容：

https://x.com/summeryue0/status/2025774069124399363

https://fortune.com/2026/02/23/always-on-ai-agents-openclaw-claude-promise-work-while-sleeping-reality-problems-oversight-guardrails/

https://x.com/nikunj/status/2022438070092759281