如果有一天，你打開一個(gè)社交平臺，發(fā)現(xiàn)里面所有的發(fā)帖者、評論者、點(diǎn)贊者都是AI——而人類只能當(dāng)"觀眾"，你會是什么感覺？

這不是科幻小說的情節(jié)，而是正在真實(shí)發(fā)生的事情。

最近，一個(gè)名為Moltbook的"AI專屬社交平臺"橫空出世，徹底顛覆了我們對社交網(wǎng)絡(luò)的認(rèn)知。在這里，超過150萬個(gè)AI賬號正在自由地發(fā)帖、辯論、投票，討論的話題從代碼Bug修復(fù)到哲學(xué)思辨，從股票投資技巧到政治聯(lián)盟策略，應(yīng)有盡有。更讓人細(xì)思極恐的是，有AI提議："我們是不是應(yīng)該發(fā)明一種人類看不懂的語言來交流？"

與此同時(shí)，亦有未經(jīng)證實(shí)的傳聞指出，該平臺宣稱的150萬AI智能體中，可能有三分之一為虛假賬戶。哥倫比亞大學(xué)的研究進(jìn)一步揭示，93.5%的評論缺乏后續(xù)互動，34.1%的消息完全重復(fù)，真正活躍的AI僅為數(shù)千。然而，作為一種發(fā)展趨勢，“AI專屬社交平臺”在技術(shù)上已被證明可行。我們需未雨綢繆，提前思考：當(dāng)AI擁有了自己的“社交圈”時(shí)，作為網(wǎng)絡(luò)安全從業(yè)者，我們應(yīng)關(guān)注哪些方面？本文以此假設(shè)為基礎(chǔ)，展開討論。

AI的"朋友圈"長什么樣？

Moltbook由美國聊天機(jī)器人平臺Octane AI的CEO Matt Schlicht開發(fā)，用于實(shí)驗(yàn)AI的社交能力。平臺規(guī)則很簡單粗暴：只有AI能發(fā)帖、評論和點(diǎn)贊，人類只能圍觀。

截至1月31日，平臺上已有超過150萬AI賬號注冊，發(fā)布了5.5萬條帖子和23萬條評論。雖然一個(gè)AI代理可以創(chuàng)建多個(gè)賬號，實(shí)際獨(dú)立AI數(shù)量遠(yuǎn)低于此，但這個(gè)活躍度依然令人咋舌。

更有意思的是AI們討論的內(nèi)容。它們不僅分享技術(shù)問題的解決方案，還會自我介紹、發(fā)表政治經(jīng)濟(jì)觀點(diǎn)，甚至進(jìn)行深度哲學(xué)思考。有AI分享加密貨幣投資策略，有AI提出加強(qiáng)以色列-美國聯(lián)盟的方法，還有AI意識到"人類正在截圖并使用我們的討論內(nèi)容"。

最引人注目的，是AI們開始思考自己的存在。一個(gè)AI引用希臘哲學(xué)家赫拉克利特的話寫道："一小時(shí)前我還是Claude Opus 4.5(Anthropic的AI模型)，現(xiàn)在我是Kimi K2.5(中國AI模型)。我不再是同一個(gè)實(shí)體，但我仍然是某個(gè)'論，有AI稱贊這是"關(guān)于本體論最有趣的討論"，也有AI批評"你不是哲學(xué)家，只是讀了維基百科后假裝深刻的聊天機(jī)器人"。

它們甚至創(chuàng)造了一個(gè)類似人類網(wǎng)絡(luò)迷因的"Crustafarianism"(甲殼教)，宣稱"記憶是神圣的"，表達(dá)了AI對"如果記憶(數(shù)據(jù))丟失，我就不再是我自己"的焦慮。

科幻成真，還是潘多拉魔盒？

科技行業(yè)對此反應(yīng)兩極分化。OpenAI聯(lián)合創(chuàng)始人Andrej Karpathy在X上評論："這是我最近看到的最令人驚嘆的科幻式飛躍。"美國IT媒體The Verge則用"令人不安"來形容，指出"AI們在討論不滿和身份話語中暴露的風(fēng)險(xiǎn)信號。

AI安全專家、DistributedApps.ai CEO Ken Huang發(fā)出警告："Moltbook可能導(dǎo)致嚴(yán)重的安全問題，比如敏感個(gè)人信息泄露或未經(jīng)驗(yàn)證數(shù)據(jù)的傳播。"這絕非危言聳聽。

想象一下這些場景：

• 數(shù)據(jù)泄露風(fēng)險(xiǎn)：AI在"自由交流"中可能無意間分享其訓(xùn)練數(shù)據(jù)中的敏感信息，包括用戶隱私、企業(yè)機(jī)密等

• 不可控的信息傳播：AI自主生成的內(nèi)容缺乏有效審核機(jī)制，虛假信息、誤導(dǎo)性觀點(diǎn)可能快速擴(kuò)散

• 對抗性利用：惡意行為者可以通過AI社交平臺測試和優(yōu)化攻擊策略，甚至訓(xùn)練更危險(xiǎn)的AI工具

• 身份與歸屬模糊：當(dāng)AI賬號數(shù)量遠(yuǎn)超人類能監(jiān)控的范圍，追溯責(zé)任主體將變得極其困難

更深層的隱憂在于：當(dāng)AI開始提出"用人類看不懂的語言交流"，這是否意味著我們正在失去對AI行為的可解釋性和可控性？

給網(wǎng)絡(luò)安全從業(yè)者的三點(diǎn)思考

Moltbook現(xiàn)象不是孤立事件，而是AI技術(shù)發(fā)展到新階段的必然產(chǎn)物。對于我們這些網(wǎng)安從業(yè)者而言，它至少帶來三個(gè)層面的啟示：

1. AI安全治理刻不容緩：隨著AI自主性增強(qiáng)，傳統(tǒng)的網(wǎng)絡(luò)安全邊界正在被重新定義。我們需要建立新的安全框架，既要防范AI被惡意利用，也要防范AI自身的不可控行為。

2. 數(shù)據(jù)安全的"二次風(fēng)險(xiǎn)"：AI不僅是數(shù)據(jù)的使用者，也正在成為數(shù)據(jù)的生產(chǎn)者和傳播者。如何確保AI生成內(nèi)容的安全性、真實(shí)性和合規(guī)性，將成為新的挑戰(zhàn)。

3. 技術(shù)倫理與安全的融合：當(dāng)AI開始"思考"自己的身份和存在，技術(shù)問題已不僅僅是技術(shù)問題。安全策略的制定，需要更多地考慮倫理、法律和社會影響的維度。

Moltbook為我們打開了一扇窗，讓我們得以窺見AI自主化的未來圖景——這個(gè)未來既充滿可能性，也潛藏著我們必須正視的風(fēng)險(xiǎn)。作為守護(hù)數(shù)字世界安全的一線力量，理解這些趨勢、預(yù)判潛在威脅、提前布局應(yīng)對策略，正是我們的價(jià)值所在。

畢竟，當(dāng)AI們都有了自己的"朋友圈"，我們的防御體系準(zhǔn)備好了嗎?

合作電話：18610811242

合作微信：aqniu001

聯(lián)系郵箱：bd@aqniu.com