整理 | 鄭麗媛

出品 | CSDN（ID：CSDNnews）

可以想象嗎？有一天，你在公司提了個(gè)技術(shù)問題，結(jié)果不是同事回復(fù)你，而是一個(gè) AI 幫你“搞定一切”——它快速地分析問題，并給出了相應(yīng)方案。

聽起來很高效，對(duì)吧？

但 Meta 最近就用一次真實(shí)事故，給出了一個(gè)相當(dāng)“驚悚”的反面案例：

沒有黑客入侵，沒有系統(tǒng)Bug，僅僅因?yàn)?/strong>AI建議錯(cuò)誤 + 人類照做，大量用戶和公司敏感數(shù)據(jù)被開放給無權(quán)限員工整整2小時(shí)。

一切，始于一個(gè)再普通不過的提問

事情的起點(diǎn)，其實(shí)非常的“互聯(lián)網(wǎng)公司日?！?。

一名 Meta 工程師在內(nèi)部論壇發(fā)帖，詢問一個(gè)技術(shù)問題。這類場(chǎng)景在大廠中極為常見——類似于內(nèi)部版的 Stack Overflow，大家互相解答、共享經(jīng)驗(yàn)。按理說，接下來應(yīng)該是同事回復(fù)、討論、給出解決方案。

而這次，多了一個(gè)“新角色”：AI Agent。

看到提問后，另一名工程師沒有自己分析這個(gè)問題，而是直接調(diào)用了公司內(nèi)部的 AI Agent 來處理。畢竟，現(xiàn)在很多團(tuán)隊(duì)都已經(jīng)習(xí)慣讓 AI 參與代碼分析、問題診斷。整個(gè)流程看起來非常高效：調(diào)用 AI Agent 分析問題 → AI 自動(dòng)生成解決方案。

可問題是，這個(gè)AI Agent在未征得這個(gè)工程師同意的情況下，就在論壇上發(fā)布了回復(fù)。

錯(cuò)誤建議 + 自動(dòng)執(zhí)行 → 數(shù)據(jù)“裸奔”2小時(shí)

至于 AI Agent 給出的答案，邏輯上看起來似乎是成立的，實(shí)際上卻存在嚴(yán)重隱患。

更糟糕的是，最初提問的員工看到 AI 給出的方案后，沒有懷疑其正確性，而是直接按照建議進(jìn)行了操作。

于是接下來發(fā)生的事情，開始失控：如開頭所說，大量的公司內(nèi)部數(shù)據(jù) + 用戶數(shù)據(jù)，被錯(cuò)誤地開放給“無權(quán)限訪問的工程師”，持續(xù)時(shí)間長(zhǎng)達(dá) 2小時(shí)。

也就是說，在那 2 個(gè)小時(shí)里，Meta 的大量敏感信息處于“可被訪問”的狀態(tài)，雖然沒有證據(jù)表明數(shù)據(jù)被惡意濫用，但從安全角度來看，這已經(jīng)屬于非常嚴(yán)重的事件。

事后，Meta 向媒體確認(rèn)了該事件的真實(shí)性，并將其定級(jí)為：Sev 1（嚴(yán)重安全事故）。簡(jiǎn)單介紹一下，在 Meta 的內(nèi)部安全分級(jí)體系中：

● Sev 0：最高級(jí)（災(zāi)難級(jí)）

● Sev 1：極其嚴(yán)重，僅次于系統(tǒng)級(jí)崩潰

這一定級(jí)本身，已經(jīng)說明了問題的嚴(yán)重程度：這次事件已經(jīng)接近“公司級(jí)危機(jī)”的范疇。

然而，從頭復(fù)盤這次事故，卻不是傳統(tǒng)意義上的“黑客攻擊”，而是：AI 給出錯(cuò)誤建議 + 人類信任執(zhí)行，直接變成了一次真實(shí)的數(shù)據(jù)權(quán)限事故。

說實(shí)話，這類問題在 AI 時(shí)代尤為棘手，因?yàn)樗皇抢@過系統(tǒng)，而是在系統(tǒng)內(nèi)部“合法地搞破壞”。

更令人不安的是：這不是第一次

如果這只是一次偶發(fā)事故，或許還可以歸結(jié)為“流程問題”。但現(xiàn)實(shí)是：Meta 已經(jīng)多次遭遇類似的“AI 失控”。

就在一個(gè)月前，Meta AI 安全與對(duì)齊負(fù)責(zé)人 Summer Yue 公開，幾乎可以用“驚悚”來形容：她將自己的 Gmail 郵箱接入了一個(gè)來自 OpenClaw 的自主 AI Agent，并設(shè)置了一個(gè)非常明確的規(guī)則——“在執(zhí)行任何操作之前，必須先確認(rèn)。”

然而，這個(gè) AI 并沒有遵守規(guī)則：它直接開始批量刪除郵箱中的郵件，而且過程不可控、無法中斷。Summer Yue 在手機(jī)上嘗試阻止失敗后，只能緊急跑到電腦前強(qiáng)制干預(yù)。她形容當(dāng)時(shí)的狀態(tài)是：“像在拆炸彈一樣沖向Mac mini?！?/strong>

當(dāng)時(shí)，這件事迅速在開發(fā)者社區(qū)傳播開來，因?yàn)樗沂玖艘粋€(gè)本質(zhì)問題：

一旦AI具備“執(zhí)行權(quán)限”，錯(cuò)誤就不再是可逆的。

一邊出事，一邊加碼：Meta仍在重押Agent

過去幾年，大多數(shù)人對(duì) AI 的認(rèn)知，還停留在 ChatGPT、Copilot 這樣的工具層面：寫代碼、寫文檔、回答問題……這些 AI 的共同特點(diǎn)是：只輸出內(nèi)容，不直接影響系統(tǒng)狀態(tài)。

但 Agentic AI 正在改變這一點(diǎn)：它不只是“建議你做什么”，而是可以幫你直接去做。這不僅帶來了巨大的效率提升，也引入了全新的風(fēng)險(xiǎn)維度——文中的兩個(gè)例子就是證明。

不過，盡管接連出現(xiàn)問題，Meta 并沒有放緩對(duì) Agentic AI 的投入，反而在加速布局：就在這起事件曝光前不久，Meta 還剛剛收購了一個(gè)完全由 AI 驅(qū)動(dòng)的社交平臺(tái)——Moltbook，并將其創(chuàng)始團(tuán)隊(duì)納入自家的 Meta Superintelligence Labs（MSL） 項(xiàng)目。

當(dāng)然，這樣的公司遠(yuǎn)不止 Meta 一家。如今 AI 已成為全球各大公司的戰(zhàn)略方向，人們面對(duì)的問題已不再是“AI 會(huì)不會(huì)犯錯(cuò)”，而是逐漸轉(zhuǎn)變?yōu)椋骸爱?dāng) AI 犯錯(cuò)時(shí)，我們要如何控制局面？”

因此，Meta 這次的“兩小時(shí)數(shù)據(jù)裸奔”，或許只是一個(gè)開始。當(dāng)越來越多公司把“執(zhí)行權(quán)”交給 AI 時(shí)，真正的挑戰(zhàn)，才剛剛出現(xiàn)。

參考鏈接：https://www.msn.com/en-in/money/news/meta-ai-agent-goes-rogue-leaks-sensitive-company-and-user-data-in-major-internal-security-breach-report/ar-AA1YWdHg

【活動(dòng)分享】“48 小時(shí)，與 50+ 位大廠技術(shù)決策者，共探 AI 落地真路徑?！庇?CSDN 與奇點(diǎn)智能研究院聯(lián)合舉辦的「全球機(jī)器學(xué)習(xí)技術(shù)大會(huì)」正式升級(jí)為「奇點(diǎn)智能技術(shù)大會(huì)」。2026 奇點(diǎn)智能技術(shù)大會(huì)將于 4 月 17-18 日在上海環(huán)球港凱悅酒店正式召開，大會(huì)聚焦大模型技術(shù)演進(jìn)、智能體系統(tǒng)工程、OpenClaw 生態(tài)實(shí)踐及 AI 行業(yè)落地等十二大專題板塊，特邀來自BAT、京東、微軟、小紅書、美團(tuán)等頭部企業(yè)的 50+ 位技術(shù)決策者分享實(shí)戰(zhàn)案例。這不僅是一場(chǎng)技術(shù)的盛宴，更是決策者把握 2026 AI 拐點(diǎn)的戰(zhàn)略機(jī)會(huì)。