新技術(shù)發(fā)布即引發(fā)轟動(dòng)，旋即又迎來(lái)口碑反轉(zhuǎn)——這種“快進(jìn)式”的輿論循環(huán)，正成為生成式 AI 時(shí)代顯著的傳播特征。

上周末，一個(gè)名為Moltbook的智能體社交平臺(tái)以前所未有的速度席卷了全球科技圈。在那個(gè)被稱(chēng)為“AI 版 Reddit”的數(shù)字空間里，數(shù)十萬(wàn)個(gè) AI 智能體自發(fā)地發(fā)帖、點(diǎn)贊甚至相互“密謀”。特斯拉前 AI 負(fù)責(zé)人安德烈·卡帕斯（Andrej Karpathy）曾感嘆其為“科幻成真”。

然而，“打臉”來(lái)得比熱度更快。

昨夜，Moltbook 在 X 上被曝存在致命的安全漏洞：由于缺乏基本的訪(fǎng)問(wèn)控制，超150 萬(wàn)用戶(hù)的敏感數(shù)據(jù)（包括電子郵件、登錄令牌以及極為關(guān)鍵的 API 密鑰）遭到泄露。這場(chǎng)從“科幻奇跡”到“數(shù)字垃圾場(chǎng)”的瞬間滑坡，恰恰為我們揭開(kāi)了 AI 時(shí)代隱私盲區(qū)的冰山一角。

Moltbook 的崩塌并非偶然，它反映了當(dāng)前 AI 應(yīng)用開(kāi)發(fā)中普遍存在的 Vibe-coding 弊端。在這種模式下，開(kāi)發(fā)者追求快速上線(xiàn)和病毒式效應(yīng)，卻將網(wǎng)絡(luò)安全視為事后才考慮的附件。

上周三，全球迎來(lái)第 20 個(gè)“數(shù)據(jù)隱私日”。

回望十年前，隱私討論的焦點(diǎn)尚停留在 Cookie 合規(guī)、數(shù)據(jù)庫(kù)加密以及 VPN 的防御。然而，隨著生成式 AI 在短短數(shù)年間完成從實(shí)驗(yàn)室走向生產(chǎn)力中樞，一個(gè)新的隱私盲區(qū)正在悄然形成。

在這個(gè)智能涌現(xiàn)的時(shí)代，數(shù)據(jù)泄露的范式已然發(fā)生突變。Akamai 大中華區(qū)售前高級(jí)經(jīng)理馬俊表示：“AI 時(shí)代的數(shù)據(jù)泄露不再需要暴力破解，攻擊者正在利用 AI‘樂(lè)于助人’的天性，將原本用于賦能的交互界面，變成了一場(chǎng)精密的數(shù)據(jù)竊取實(shí)驗(yàn)?！?/p>

隱形的裂痕：從“強(qiáng)攻數(shù)據(jù)庫(kù)”到“巧取對(duì)話(huà)框”

傳統(tǒng)的網(wǎng)絡(luò)攻擊往往像是一場(chǎng)破門(mén)而入的劫掠——攻擊者需要尋找系統(tǒng)漏洞，繞過(guò)防火墻，最終竊取靜態(tài)存儲(chǔ)的文件。但在人工智能時(shí)代，這種暴力美學(xué)正在被一種極具隱蔽性的“系統(tǒng)性查詢(xún)（Systematic Querying）”所取代。

根據(jù)Akamai 發(fā)布的《2025 年網(wǎng)絡(luò)安全態(tài)勢(shì)報(bào)告》（數(shù)據(jù)來(lái)源于其全球流量監(jiān)測(cè)網(wǎng)絡(luò)），2025 年針對(duì) AI 接口的 API 攻擊次數(shù)較 2023 年增長(zhǎng)了近180%。馬俊指出，這種新型威脅的本質(zhì)在于其隱蔽性與獨(dú)特性。由于攻擊是發(fā)生在正常的系統(tǒng)交互中，傳統(tǒng)的檢測(cè)工具很難將其標(biāo)記為惡意行為。

AI 模型被設(shè)計(jì)初衷就是為了分享信息并提供有用的回復(fù)。這種“服務(wù)特性”為惡意行為者創(chuàng)造了絕佳的機(jī)會(huì)。攻擊者不再詢(xún)問(wèn)“請(qǐng)告訴我數(shù)據(jù)庫(kù)的賬號(hào)密碼”，而是通過(guò)數(shù)千次看似合理、甚至帶有業(yè)務(wù)邏輯的精心提問(wèn)，誘導(dǎo) AI 在不知不覺(jué)中吐露其訓(xùn)練數(shù)據(jù)中的敏感信息（PII）或核心算法。這就像是在一個(gè)極其熱情的員工面前，通過(guò)不斷的套話(huà)，最終拼湊出公司的財(cái)務(wù)機(jī)密。

如果將數(shù)據(jù)安全比作一幅完整的拼圖，那么系統(tǒng)性查詢(xún)就是一場(chǎng)極具耐心的掠奪。

攻擊者深知，直接要求 AI 提供完整敏感數(shù)據(jù)會(huì)觸發(fā)內(nèi)置的“護(hù)欄（Guardrails）”，因此他們采用了“分而治之”的策略。

在馬俊描述的典型場(chǎng)景中，攻擊者會(huì)利用自動(dòng)化腳本進(jìn)行海量提問(wèn)。每一次提問(wèn)獲取的信息可能只是某個(gè)客戶(hù)姓名的縮寫(xiě)，或者是算法中的一小段偽代碼。

但在大量查詢(xún)的累積下，這些碎片化信息最終能夠被重構(gòu)。根據(jù)OWASP（開(kāi)放式 Web 應(yīng)用程序安全項(xiàng)目）發(fā)布的《2025 年 LLM 十大安全漏洞（Top 10 for LLM）》，“敏感信息泄露（Sensitive Information Disclosure）”高居榜首。報(bào)告指出，這種泄露不僅源于訓(xùn)練數(shù)據(jù)本身的瑕疵，更源于模型在推理過(guò)程中對(duì)提示詞（Prompt）權(quán)重的過(guò)度響應(yīng)。

此外，比數(shù)據(jù)泄露更令企業(yè)感到膽寒的是模型竊取。AI 模型是企業(yè)投入巨資研發(fā)的核心資產(chǎn)。攻擊者通過(guò)系統(tǒng)性地探測(cè)模型的輸入與輸出，可以逐步推斷出模型的權(quán)重參數(shù)甚至其核心邏輯。

通過(guò)這種方式，他們可以近乎零成本地復(fù)制競(jìng)爭(zhēng)對(duì)手花費(fèi)數(shù)億美元訓(xùn)練出來(lái)的成果。馬俊強(qiáng)調(diào)，這種針對(duì)知識(shí)產(chǎn)權(quán)的直接盜取，正在成為 AI 軍備競(jìng)賽中最陰暗的一面。

合規(guī)不再是“紙上談兵”

這種隱形威脅帶來(lái)的后果是災(zāi)難性的。由于 AI 系統(tǒng)通常直接連接業(yè)務(wù)鏈條，一旦發(fā)生泄露，不僅意味著經(jīng)濟(jì)上的直接損失，更意味著法律維度的全面崩塌。

面對(duì)這種從交互中產(chǎn)生的風(fēng)險(xiǎn)，傳統(tǒng)的防火墻已力有不逮。馬俊提出了一個(gè)從策略、技術(shù)到流程的“綜合防御框架”，旨在將安全基因植入 AI 的每一次吐息之中。具體措施如下：

• 基礎(chǔ)管控：策略制定與技術(shù)攔截。組織必須建立嚴(yán)格的數(shù)據(jù)分類(lèi)策略，確定 AI 應(yīng)用程序和大型語(yǔ)言模型（LLM）可以處理哪些信息，并必須實(shí)施能夠檢測(cè)異常查詢(xún)模式的實(shí)時(shí)監(jiān)控工具。這些技術(shù)保障措施應(yīng)包括輸入凈化、輸出過(guò)濾和速率限制，以防止意外的數(shù)據(jù)暴露和蓄意的提取嘗試。

• 進(jìn)階監(jiān)控：行為分析與基線(xiàn)檢測(cè)。持續(xù)監(jiān)控和威脅檢測(cè)也是必不可少的步驟。安全團(tuán)隊(duì)需要專(zhuān)門(mén)的監(jiān)控解決方案，能夠?qū)崟r(shí)識(shí)別可疑的提示詞模式、異常的數(shù)據(jù)訪(fǎng)問(wèn)行為和潛在的模型操縱嘗試。這包括部署行為分析，為正常的 AI 應(yīng)用程序使用建立基線(xiàn)，并對(duì)可能表明泄露嘗試的偏差發(fā)出警報(bào)。

• 組織流程：紅隊(duì)演練與審計(jì)響應(yīng)。全面的防御策略還應(yīng)包括以員工為中心的安全措施和事件響應(yīng)能力。定期進(jìn)行模擬 AI 特定攻擊場(chǎng)景的紅隊(duì)演練，有助于組織在惡意行為者之前發(fā)現(xiàn)漏洞。安全領(lǐng)導(dǎo)者還應(yīng)保留所有 AI 交互的詳細(xì)審計(jì)線(xiàn)索，并建立專(zhuān)門(mén)設(shè)計(jì)的清晰事件響應(yīng)協(xié)議，以應(yīng)對(duì)基于 AI 的數(shù)據(jù)竊取企圖。

2026 年的數(shù)據(jù)隱私日，不再只是一個(gè)紀(jì)念符號(hào)，而是一個(gè)分水嶺。我們正處于一個(gè)生產(chǎn)力爆炸與安全盲區(qū)并存的奇點(diǎn)。

正如 Sam Altman 在上周線(xiàn)上研討會(huì)上所提到的，智能正在成為一種隨處可見(jiàn)的廉價(jià)資源，但這種資源的流動(dòng)性本身就帶有風(fēng)險(xiǎn)。馬俊及 Akamai 的洞察提醒我們：當(dāng)我們驚嘆于 AI 的博學(xué)與體貼時(shí)，切莫忘記，它也可能在不經(jīng)意間交出企業(yè)的“命門(mén)”。

在 AI 時(shí)代，最頂尖的安全不是更厚的防火墻，而是更敏銳的洞察與更嚴(yán)苛的治理。唯有將防御視野從數(shù)據(jù)庫(kù)延伸到對(duì)話(huà)框，我們才能在享受 AI 帶來(lái)的“無(wú)限富足”時(shí)，守住那條名為隱私的生存底線(xiàn)。

會(huì)議推薦

InfoQ 2026 全年會(huì)議規(guī)劃已上線(xiàn)！從 AI Infra 到 Agentic AI，從 AI 工程化到產(chǎn)業(yè)落地，從技術(shù)前沿到行業(yè)應(yīng)用，全面覆蓋 AI 與軟件開(kāi)發(fā)核心賽道！集結(jié)全球技術(shù)先鋒，拆解真實(shí)生產(chǎn)案例、深挖技術(shù)與產(chǎn)業(yè)落地痛點(diǎn)，探索前沿領(lǐng)域、聚焦產(chǎn)業(yè)賦能，獲取實(shí)戰(zhàn)落地方案與前瞻產(chǎn)業(yè)洞察，高效實(shí)現(xiàn)技術(shù)價(jià)值轉(zhuǎn)化。把握行業(yè)變革關(guān)鍵節(jié)點(diǎn)，搶占 2026 智能升級(jí)發(fā)展先機(jī)！

今日薦文

你也「在看」嗎？