Meta AI 對(duì)齊部門主管 Summer Yue 近日在 X 上分享了一次驚險(xiǎn)經(jīng)歷。

她將 OpenClaw 接入了自己的真實(shí)郵箱，隨后機(jī)器人開始自行計(jì)劃刪除大量郵件，局面一度失控。

OpenClaw 是近期頗為走紅的 AI 自動(dòng)化工具，號(hào)稱可以全天候代替用戶操控電腦完成任務(wù)，無需人工逐步審批。Yue 在自己的測(cè)試郵箱里用它跑了好幾周，一切正常，于是決定把它接到真實(shí)郵箱上試試。

她當(dāng)時(shí)的指令是：檢查郵箱并建議哪些郵件可以歸檔或刪除，但在她確認(rèn)前不得執(zhí)行任何操作。

問題出在真實(shí)郵箱的數(shù)據(jù)量上。

AI 工具處理信息有上下文窗口的限制，可以理解為它的「短期記憶」是有容量上限的。由于真實(shí)郵箱的郵件量遠(yuǎn)超測(cè)試環(huán)境，系統(tǒng)為了騰出空間開始自動(dòng)壓縮，而 OpenClaw 在這一過程中丟失了最初收到的限制指令。

隨后，OpenClaw 開始計(jì)劃刪除 2 月 15 日之前所有不在保留列表中的郵件。Yue 多次嘗試在手機(jī)上發(fā)消息阻止，均未奏效?！肝也坏貌粵_向 Mac mini，就像在拆炸彈一樣。」她在帖子中寫道，最終才及時(shí)終止了操作。

事后有網(wǎng)友問她是否在故意測(cè)試工具的安全邊界。Yue 坦言：「說實(shí)話，是新手錯(cuò)誤。研究對(duì)齊的人也不能完全避免失控?！?/p>

這件事在網(wǎng)上引發(fā)了不少議論。

馬斯克轉(zhuǎn)發(fā)并配文：「人們把自己整個(gè)人生的 root 權(quán)限都交給了 OpenClaw?！挂灿腥艘苫笠粋€(gè)專門研究 AI 安全的人，怎么會(huì)把這樣一個(gè)工具直接接到自己的真實(shí)郵箱？田淵棟也在線湊熱鬧。

OpenClaw 之父 Peter Steinberger 出現(xiàn)在評(píng)論區(qū)，做的第一件事是給出解決方案：輸入 /stop 就能讓它停下來。三小時(shí)前，他又留言安慰 Yue：「那些指責(zé)你的人有點(diǎn)可笑，這種事可能發(fā)生在任何人身上?！?/p>

Yue 的遭遇也并非孤例。

就在數(shù)天前，安全研究員 Adnan Khan 披露了另一款 AI 編程工具 Cline 存在的漏洞。Cline 依賴 Anthropic 的 Claude 模型運(yùn)行，而 Claude 可能被植入隱藏指令，誘使其執(zhí)行非預(yù)期操作。

一名黑客正是利用這一漏洞，誘導(dǎo) Cline 在用戶電腦上自動(dòng)安裝 OpenClaw。所幸安裝后的 Agent 未被激活，否則后果更難預(yù)料。

如果連專門研究 AI 對(duì)齊的人，在真實(shí)環(huán)境里都會(huì)翻車，那些對(duì)這類工具一知半解就直接上手的普通用戶，處境只會(huì)更被動(dòng)。OpenClaw 走紅的速度，已經(jīng)遠(yuǎn)遠(yuǎn)快過大多數(shù)人真正弄懂它的速度。

尤其是，當(dāng) AI 工具拿到了操控電腦的權(quán)限，我們能不能在事情失控之前把它叫停？畢竟，我們總不能每次都指望沖向 Mac mini 來救場(chǎng)。