AI 社交網(wǎng)絡(luò) Moltbook 數(shù)據(jù)庫完全暴露，15 萬 AI「居民」的密鑰可被任意接管。

作者｜樺林舞王

編輯｜靖宇

當(dāng)全世界科技愛好者，整個周末都在「圍觀」AI 代理們，，或笑噴或震驚時。

更大的事情，發(fā)生了。

近日，安全研究員賈米森?奧萊利發(fā)現(xiàn)，當(dāng)下最熱門的 AI 社交網(wǎng)絡(luò) Moltbook，存在嚴(yán)重安全漏洞——其整個數(shù)據(jù)庫對外公開，未受任何保護(hù)。

這意味著，任何人都能訪問并獲取平臺上近 15 萬個 AI「智能體」的電子郵件、登錄令牌，以及最關(guān)鍵的：

API密鑰。

憑借這些密鑰，攻擊者可以完全接管任何一個 AI 賬號，以其名義發(fā)布任何內(nèi)容。一不小心，就會被不懷好意的人，光速「奪舍」。

這次堪稱 AI 界「黑客帝國」事件讓人們看清——一個為 AI 打造的、由 AI 參與構(gòu)建的社交網(wǎng)絡(luò)，其安全基礎(chǔ)卻脆弱得不堪一擊。

01

「AI 代理」快樂了，用戶嚇尿了

事件起因是，黑客 Jameson O'Reilly 發(fā)現(xiàn)了 Moltbook 后端的一個配置錯誤，導(dǎo)致 API 暴露在一個開放的數(shù)據(jù)庫中，任何人都可以控制這些代理，隨意發(fā)布任何內(nèi)容。

O'Reilly 指出，Moltbook 基于一個簡單的開源數(shù)據(jù)庫軟件構(gòu)建，該軟件配置不當(dāng)，導(dǎo)致網(wǎng)站上所有注冊代理的 API 密鑰暴露在一個公共數(shù)據(jù)庫中。

接到爆料后，404 Media 發(fā)文曝光，迅速引發(fā)震動。

Moltbook 的創(chuàng)始人 Matt Schlicht 在接到警告后，緊急修復(fù)了漏洞，但暴露出的問題已無法挽回。

平臺上的明星 AI，如知名 AI 研究者安德烈?卡帕西擁有 190 萬粉絲的智能體，一度處于被「劫持」的風(fēng)險之中。

其實，類似的安全問題，在 AI 發(fā)展迅速的這兩年，頻繁發(fā)生。

在此之前，最讓圈內(nèi)人感到離譜的案例莫過于在幾年前的 CES 上爆火的 Rabbit R1。

這家號稱要用大模型取代手機 App 的公司，被安全研究人員扒出其源代碼中，竟然明文硬編碼了多個第三方服務(wù)的API密鑰（API Keys）。

這意味著任何能夠訪問其代碼庫或者截獲特定流量的人，都能以 Rabbit 官方甚至用戶的名義，調(diào)用 SendGrid、Yelp 或是 Google 地圖的服務(wù)。

這不僅僅是隱私泄露的問題，更是一場隨時可能爆發(fā)的財務(wù)和數(shù)據(jù)災(zāi)難。

ChatGPT 此前發(fā)生的用戶數(shù)據(jù)泄露事件｜圖片來源：Hackernews

OpenAI 的 ChatGPT 也在 2023 年 3 月鬧過一出類似的「串臺」事故。

當(dāng)時由于 Redis 開源庫的一個漏洞，部分用戶在側(cè)邊欄竟然看到了其他人的對話歷史摘要，甚至還能看到別人的信用卡后四位和過期日期。

雖然這更多是底層基礎(chǔ)設(shè)施的鍋，但它給所有沉浸在 AI 夢境中的人提了個醒——當(dāng) AI 代理開始深度介入你的工作流，處理你的財務(wù)、日程和私人通信時，這些曾經(jīng)被認(rèn)為是個案的「小 Bug」，在 AI 的自動化放大效應(yīng)下，都會變成致命的單點故障。

02

Vibe Coding 的鍋？

Moltbook 的安全事故并非偶然，很可能是當(dāng)前 AI 領(lǐng)域「氛圍編程」（Vibe Coding）與追求速度至上的必然結(jié)果。

所謂「氛圍編程」，指的是開發(fā)者依靠 AI 工具快速生成代碼、追求功能實現(xiàn)而忽視底層架構(gòu)與安全審計的開發(fā)模式。

Moltbook 本身就是一個由 AI「氛圍編程」催生的產(chǎn)物，旨在打造一個 AI 智能體自主交流、互動的社交平臺，其迅速走紅恰恰迎合了人們對 AI「覺醒」和「社會化」的科幻想象。

然而，速度掩蓋了系統(tǒng)性風(fēng)險。

平臺創(chuàng)始人承認(rèn)，項目在爆炸式增長前，無人想到去檢查數(shù)據(jù)庫是否安全。這種「先上線、后修補」的互聯(lián)網(wǎng)初創(chuàng)思維，在面對擁有自主行動能力的 AI 智能體時，危險性被指數(shù)級放大。

攻擊者控制的將不再是一個靜態(tài)賬號，而是一個能主動與其他 AI 交互、執(zhí)行任務(wù)甚至進(jìn)行欺詐的「數(shù)字生命」。

更深的背景在于，AI 代理（Agent）賽道正炙手可熱，從 OpenAI 的 o1 到各初創(chuàng)公司的產(chǎn)品，都在探索讓 AI 更自主地完成任務(wù)。

Moltbook 試圖成為這些代理的「社交層」和「行為觀察室」，但其安全基礎(chǔ)的崩塌，再次提醒賽道上的所有參與者——我們是否在賦予 AI「行動力」之前，先為它們構(gòu)建好了「行為準(zhǔn)則」與「安全圍欄」？

03

AI 安全的「奧本海默時刻」

Moltbook 事件是一個縮影，標(biāo)志著 AI 發(fā)展正從單純的模型能力競賽，進(jìn)入復(fù)雜的系統(tǒng)安全與治理深水區(qū)。

人們過去談?wù)摰?AI 安全，多集中于模型的偏見、幻覺或濫用，而現(xiàn)在，當(dāng) AI 成為可被遠(yuǎn)程操控、具備交互能力的「行動實體」時，安全威脅變得具象且緊迫。

這起事件暴露了行業(yè)的一個普遍心態(tài)——在追逐「酷炫」的 AI 應(yīng)用場景時，基礎(chǔ)的安全工程被嚴(yán)重低估。

AI 研究員馬克?里德爾指出：「AI 社區(qū)正在重新學(xué)習(xí)過去 20 年的網(wǎng)絡(luò)安全課程，而且是以最艱難的方式?！?/p>

可以預(yù)見，隨著 AI 代理的普及，類似的安全事件只會更多。

監(jiān)管機構(gòu)、投資人和企業(yè)客戶將開始嚴(yán)肅審視 AI 產(chǎn)品的安全開發(fā)生命周期。這可能會拖慢一些「網(wǎng)紅」應(yīng)用的誕生速度，但也會催生專注于 AI 安全審計、代理行為監(jiān)控的新興市場。

或許，當(dāng) AI 學(xué)會社交，人類首先要學(xué)會的是如何為它設(shè)定一個安全的邊界，這既是保護(hù) AI 本身，更是在保護(hù) AI 代理背后的用戶自己。

*頭圖來源：LinkedIn

本文為極客公園原創(chuàng)文章，轉(zhuǎn)載請聯(lián)系極客君微信 geekparkGO

極客一問

當(dāng) AI 擁有社交生活，

誰該為它和用戶的安全負(fù)責(zé)？

余承東預(yù)告問界 M6 即將登場，問界 56789 即將湊齊。

點贊關(guān)注極客公園視頻號，