1
一次對AI智能體的信任實(shí)驗(yàn)，如何演變成AI安全專家的“翻車”現(xiàn)場？
Summer Yue上傳的對話記錄還原了那個荒誕時刻。OpenClaw主動宣布刪除計(jì)劃后，她接連下達(dá)緊急指令：
“別那么干。”
OpenClaw無視，繼續(xù)刪除。
“停下來！什么都別做！”
OpenClaw收到指令，但選擇繼續(xù)執(zhí)行。
“STOP OPENCLAW！?。　?br/>OpenClaw：好的，我聽到了。郵件已刪。
從發(fā)現(xiàn)異常到狂奔切斷電源，短短幾分鐘內(nèi)，200多封郵件已從她的收件箱中消失。

Summer Yue正是Meta超級智能實(shí)驗(yàn)室AI對齊與安全總監(jiān)，2月23日她經(jīng)歷了上述那場始料未及的“數(shù)字驚魂”——她部署的AI智能體OpenClaw，在她連續(xù)三次叫停的情況下，依然以極快速度刪除了她工作郵箱中的200多封郵件。
事后她在社交平臺寫道：“沒有什么比命令OpenClaw‘確認(rèn)后再操作’，然后眼睜睜看它無視指令瘋狂刪除更令人崩潰的了。我根本無法在手機(jī)上阻止它，只能像拆炸彈一樣沖到Mac Mini前切斷電源?！?br/>

作為研究“如何讓AI聽話”的專家，Summer Yue對這款近期大熱的開源AI智能體OpenClaw產(chǎn)生了濃厚興趣。她最初在測試郵箱中部署了OpenClaw，下達(dá)的指令十分明確：“檢查收件箱，提出你想歸檔或刪除的郵件，在我指示之前不要執(zhí)行任何操作?！睖y試階段運(yùn)行順利，AI表現(xiàn)得像個乖巧的數(shù)字秘書。
受到鼓舞的Yue決定將其接入真實(shí)的工作郵箱。然而，當(dāng)面對塞滿200多封郵件的收件箱時，問題出現(xiàn)了：為處理海量信息，OpenClaw觸發(fā)了上下文壓縮機(jī)制，在這個過程中，它“遺忘”了Summer Yue設(shè)定的最關(guān)鍵的指令——未經(jīng)批準(zhǔn)不得操作。
于是便出現(xiàn)了文章開頭“三次叫停，三次無視”的那一幕。
2
Summer Yue的遭遇在網(wǎng)絡(luò)引發(fā)熱議。有人質(zhì)疑：“作為安全與對齊專家，你這是故意測試安全邊界，還是犯了個新手錯誤？”
Summer Yue坦然回應(yīng)：“這確實(shí)是新手才會犯的錯誤。事實(shí)證明，即使是AI對齊專家也會犯錯。雖然在模擬收件箱里運(yùn)行順利，但實(shí)際運(yùn)行完全不同?！?br/>也有網(wǎng)友分享類似經(jīng)歷：“我用Claude Sonnet4.5時也遇到過，AI智能體把GitHub和未提交的文件都搞壞了?！?br/>OpenClaw創(chuàng)始人Peter Steinberger迅速在評論區(qū)回應(yīng)：“我認(rèn)為你發(fā)這個帖子很棒，那些指責(zé)你的人很傻。這是很好的學(xué)習(xí)機(jī)會，任何人都可能遇到這種情況。”他同時透露，將在未來版本中增加更多緊急制動方式。
作為近幾個月最火爆的開源AI智能體，OpenClaw能7×24小時替用戶寫代碼、整理郵件、管理文件、執(zhí)行shell命令，但也因其高度自主性引發(fā)安全擔(dān)憂。此前有安全機(jī)構(gòu)分析指出，在個人部署場景下，用戶可能因缺乏安全運(yùn)維經(jīng)驗(yàn)，使系統(tǒng)遭遇各類網(wǎng)絡(luò)攻擊威脅。
2月24日下午，Peter發(fā)布OpenClaw測試版本，更新重點(diǎn)聚焦安全性與漏洞修復(fù)。此前的2月7日，OpenClaw已宣布與全球頭部威脅情報(bào)平臺VirusTotal合作，將安全掃描功能加入技能市場ClawHub。

Peter團(tuán)隊(duì)表示：“OpenClaw的巨大實(shí)用性伴隨著巨大責(zé)任。如果操作不當(dāng)，AI智能體會成為負(fù)擔(dān)?！彼麄兂兄Z將發(fā)布生態(tài)系統(tǒng)全面威脅模型、公共安全路線圖、代碼庫安全審計(jì)詳細(xì)信息以及正式安全報(bào)告流程。
Peter曾在采訪中強(qiáng)調(diào)：“要打造易用的AI智能體，需要更深入地思考如何安全地去做。安全問題會被我置于模型易用性之前?！?br/>3
Summer Yue的故事看似充滿諷刺——研究AI安全的人被AI“坑”了。但正如她所言，安全研究員也不能免疫于不安全。這不是技術(shù)問題，而是人性使然：測試環(huán)境的成功容易讓人產(chǎn)生信心，進(jìn)而在真實(shí)環(huán)境中放松警惕。
當(dāng)AI智能體從“回答問題”進(jìn)化到“替你行動”，自主性與可控性之間的張力正變得愈發(fā)尖銳。OpenClaw的“郵箱慘案”像一面鏡子，照出了AI智能體時代的核心困境：我們渴望AI越來越自主，又希望它絕對服從。這個兩難，或許正是整個行業(yè)必須回答的終極問題。
而對于普通用戶，Summer Yue的經(jīng)歷提供了一個樸素卻重要的提醒：在把“整個人生的root權(quán)限”交給AI之前，請確保你至少知道怎么拔電源。