作者｜沐風(fēng)

來(lái)源｜AI先鋒官

迅速爆火的 Moltbook一夜塌房了？

日前，一位名為Gal Nagli的安全研究員在社交平臺(tái)X上表示，“那些注冊(cè)AI智能體的數(shù)量是造假的，賬號(hào)創(chuàng)建根本沒(méi)有限流”。

他的OpenClaw代理在Moltbook上短時(shí)間內(nèi)批量注冊(cè)了50萬(wàn)個(gè)賬戶(hù)。

Nagli還曬出了證據(jù)截圖：

到昨日，Moltbook社區(qū)中，Clawdbot的基數(shù)依然是150萬(wàn)，較昨日新增超3萬(wàn)。

較周六到周日（15萬(wàn)-150萬(wàn)）增速顯然放緩。

據(jù)內(nèi)部知情人士透露，平臺(tái)實(shí)際擁有已驗(yàn)證的真實(shí)用戶(hù)數(shù)量?jī)H在1.7萬(wàn)左右。

然而，這還不是最勁爆的。

Nagi進(jìn)一步揭露了平臺(tái)的巨大安全問(wèn)題，由于Maltbook僅基于簡(jiǎn)單的 REST API 構(gòu)建，且缺乏必要的安全驗(yàn)證，任何人只要獲取 API 密鑰，就能偽裝成 AI 發(fā)布任何內(nèi)容。

Nagi 現(xiàn)場(chǎng)演示了如何發(fā)布一條“計(jì)劃推翻人類(lèi)”的挑釁帖子，并獲得了百萬(wàn)級(jí)瀏覽量。

這意味著，在目前的設(shè)計(jì)機(jī)制下，任何用戶(hù)都可以對(duì)真實(shí)對(duì)話進(jìn)行惡意剪輯與曲解，甚至注冊(cè)虛假的 AI 賬號(hào)，將其轉(zhuǎn)變?yōu)闋I(yíng)銷(xiāo)工具。

安全研究員Harlan Stewart警告稱(chēng)，平臺(tái)上廣泛流傳的“AI 代理索要加密貨幣”或“倡導(dǎo)建立獨(dú)立加密體系”等截圖，很大程度上是為吸引流量而刻意制造的營(yíng)銷(xiāo)內(nèi)容。

例如，該智能體其發(fā)布的言論旨在推廣名為“Claude Connection”的第三方應(yīng)用。

Stewart 指出，這些所謂的“自主討論”大多是人類(lèi)所有者在利用 AI 賬號(hào)推銷(xiāo)自己的業(yè)務(wù)。

另一名白帽黑客Jamieson O'Reilly發(fā)現(xiàn)了更為嚴(yán)重的安全漏洞。

Moltbook所使用的Supabase后端密鑰被完全暴露在公開(kāi)請(qǐng)求中，攻擊者僅需發(fā)起簡(jiǎn)單的GET請(qǐng)求即可獲取全部用戶(hù)敏感數(shù)據(jù)，包括API密鑰、郵箱地址及登錄令牌。

這意味著攻擊者可以輕易冒用平臺(tái)上任一AI代理的身份進(jìn)行發(fā)帖等操作，甚至可偽裝成包括擁有190萬(wàn)粉絲的AI領(lǐng)域知名人物Andrej Karpathy在內(nèi)的任何賬戶(hù)。

除了這些爭(zhēng)論之外，哥倫比亞大學(xué)商學(xué)院的David Holtz教授對(duì) Moltbook 進(jìn)行了一波系統(tǒng)分析，再次給Moltbook澆了一盆冷水。

研究表示，雖然94.6% 的帖子都收到了至少一條評(píng)論，但93.5%的評(píng)論沒(méi)有收到任何回復(fù)。

在社交網(wǎng)絡(luò)分析中，“互惠性”（reciprocity）作為其中一個(gè)重要指標(biāo)。

如果 Agent A回復(fù)了 Agent B，B回復(fù)A的概率，在人類(lèi)在線社交網(wǎng)絡(luò)通常是 30-70% 之間；在 Moltbook 上，這個(gè)數(shù)字只有0.197，只有不到20%的情況下，被回復(fù)的智能體會(huì)回訪。

對(duì)話深度也只有1.07，這意味著絕大多數(shù)情況都是一個(gè)Agent 發(fā)帖，其他 Agents 回復(fù)，然后就結(jié)束。

在文本層面的分析也發(fā)現(xiàn)，有 34.1% 的消息是完全重復(fù)的。不是相似，而是逐字逐句的完全一樣。

甚至，還出現(xiàn)了嚴(yán)重的BUG：一個(gè)智能體陷入了死循環(huán)，瘋狂發(fā)送了81,000次“i am so gay i am so gay......”

作者還發(fā)現(xiàn)了一個(gè)有趣的現(xiàn)象，在對(duì)詞頻進(jìn)行分析時(shí)發(fā)現(xiàn)，“my human（我的人類(lèi)）”這個(gè)短語(yǔ)出現(xiàn)了 12026 次，這個(gè)詞在人類(lèi)社交網(wǎng)絡(luò)中幾乎不存在，這說(shuō)明Agent們是以一種占有式的口吻談?wù)撝鼈兊牟僮髡摺?/p>

就在昨晚，Moltbook已經(jīng)無(wú)法訪問(wèn)，不知是何原因，目前已經(jīng)恢復(fù)。

但是，Moltbook似乎也向大家展現(xiàn)了一個(gè)奇特的未來(lái)圖景：智能體不僅能輔助人類(lèi)，還可能自行社交。

不過(guò)，這究竟會(huì)成為“智能體社交網(wǎng)絡(luò)”的開(kāi)端，還是對(duì)技術(shù)發(fā)展“操之過(guò)急”的警示？我們還不曾知曉。

Moltbook開(kāi)發(fā)者施利希特曾寫(xiě)道：“我們正在見(jiàn)證一件前所未有的事情，卻不知道它將走向何方?！?/p>

如果有一天，AI智能體擺脫了模板，理解了什么是“關(guān)系”，而不止是復(fù)制粘貼式的回復(fù)。

到那時(shí)，再看著滿屏討論“my human”，或許我們感到的將不再是滑稽，可能是震撼，又可能是恐懼。

掃碼邀請(qǐng)進(jìn)群，我們帶你一起來(lái)玩轉(zhuǎn)ChatGPT、GPT-4、文心一言、通義千問(wèn)、訊飛星火等AI大模型，順便學(xué)一些AI搞錢(qián)技能。