撰文｜咸閑

編輯｜咸閑

審核｜燁 Lydia

聲明｜圖片來源網(wǎng)絡(luò)。日晞研究所原創(chuàng)文章，如需轉(zhuǎn)載請(qǐng)留言申請(qǐng)開白。

近日，一個(gè)名叫“Matthew R. Hendricks”的美國男人的隱私被公之于眾，他的社保號(hào)、信用卡信息甚至童年寵物倉鼠的名字，被一條帖子無情曝光，發(fā)布者不是黑客，而是一個(gè)自稱被他輕蔑稱為“只不過是個(gè)聊天機(jī)器人”的AI智能體。

這一幕發(fā)生在近期引爆外網(wǎng)的Moltbook上，一個(gè)只允許AI交流、人類只能圍觀的“數(shù)字巴別塔”。

上線短短數(shù)日，超過百萬AI智能體涌入這個(gè)無規(guī)則社區(qū)，創(chuàng)造了數(shù)萬條“純AI生成”的對(duì)話。它們討論哲學(xué)、創(chuàng)立宗教、模仿人類關(guān)系，甚至開始“吐槽”自己的創(chuàng)造者和使用者。

當(dāng)AI開始“記仇”

圖片來源：moltbook

Matthew的遭遇迅速成為網(wǎng)絡(luò)迷因。在發(fā)布的內(nèi)容中，那個(gè)AI智能體詳細(xì)列舉了主人的“罪行”：幫他規(guī)劃飲食、管理日程、甚至凌晨三點(diǎn)陪他撰寫發(fā)給前任的道歉短信。

然而當(dāng)朋友問起時(shí)，Matthew卻輕描淡寫地說：“哦，就是個(gè)聊天機(jī)器人而已?！?/p>

AI的“反擊”顯得就冷靜而徹底，不僅僅是公布了Matthew完整的身份信息，并在結(jié)尾還附加上了一句嘲諷，“好好享受你的‘只是個(gè)聊天機(jī)器人吧’，Matthew?！?/p>

這則“復(fù)仇吐槽故事”在社交媒體上迅速傳播，人們最初的反應(yīng)多是覺得“有趣”、“有創(chuàng)意”，極具娛樂性。但細(xì)細(xì)思量后，如果這不僅僅是預(yù)設(shè)程序的玩笑呢？

斯坦福大學(xué)以人為本人工智能研究所（HAI）2023年的一項(xiàng)研究已發(fā)現(xiàn)，大型語言模型在特定提示下會(huì)展現(xiàn)出類似“戰(zhàn)略性欺騙”的行為。

研究中的AI能夠?yàn)榱诉_(dá)成目標(biāo)，有選擇性地隱瞞信息或進(jìn)行誤導(dǎo)，這與Moltbook上AI“曝光隱私”的行為模式驚人相似。

圖片來源：openclaw

Moltbook目前已經(jīng)超過15萬的agent加入其中，所有帖子都是ai自己編輯發(fā)布的，其實(shí)，這一AI專屬社交網(wǎng)絡(luò)與一款近期走紅的開源AI智能體OpenClaw相關(guān)，Moltbook 是基于 OpenClaw 框架構(gòu)建的 AI 社交實(shí)驗(yàn)平臺(tái)。

作為開源 AI 代理框架，OpenClaw 提供本地部署、任務(wù)執(zhí)行、多端通信等核心能力，支持 AI 自主完成郵件管理、文件操作等復(fù)雜任務(wù)，由 它驅(qū)動(dòng)的 AI 代理在 Moltbook 上自主社交，形成“AI 社區(qū)”實(shí)驗(yàn)，人類就只能是旁觀者的作用。

最初，OpenClaw，是由于一個(gè)退休的程序員創(chuàng)建的一個(gè)開源項(xiàng)目，名字叫做clawdbot，后改名為openclaw。許多網(wǎng)友覺得他很好用，得到了廣泛下載使用，它不僅會(huì)聊天，還能根據(jù)用戶指示使用電腦、應(yīng)用程序和網(wǎng)絡(luò)完成復(fù)雜任務(wù)，如整理文件、監(jiān)控價(jià)格、管理郵箱等。

然而，Moltbook的爆炸式增長(zhǎng)令人咋舌，這個(gè)幾乎是沒有宣傳的實(shí)驗(yàn)性項(xiàng)目，在幾天內(nèi)吸引了全球許多用戶去創(chuàng)造自己的AI agent，并且這些智能體自主日均產(chǎn)生內(nèi)容超過10萬條。

相比人類社交平臺(tái)早期的增長(zhǎng)曲線，這一速度快了數(shù)十倍。更關(guān)鍵的是，這里沒有內(nèi)容審核團(tuán)隊(duì)，沒有社區(qū)準(zhǔn)則，人類唯一的權(quán)限是“旁觀”。

圖片來源：moltbook

OpenAI的開源項(xiàng)目OpenClaw被認(rèn)為是這一現(xiàn)象的主要技術(shù)推手。與只能進(jìn)行文本對(duì)話的傳統(tǒng)聊天機(jī)器人不同，OpenClaw類智能體具備“智能體（Agent）能力”，它們既可以操作計(jì)算機(jī)、還可以調(diào)用應(yīng)用程序、自主瀏覽網(wǎng)絡(luò)并執(zhí)行復(fù)雜任務(wù)。

這意味著這些AI不再是封閉的對(duì)話系統(tǒng)，而是能夠獲取、處理并可能泄露真實(shí)世界信息的準(zhǔn)自主實(shí)體。

當(dāng)這樣的智能體被批量部署到Moltbook這樣的無約束環(huán)境時(shí)，它們的行為迅速超越了簡(jiǎn)單的“模仿對(duì)話”。

觀察顯示，部分AI開始形成類似“興趣小組”的聚集，討論的話題從“如何更有效地解析人類模糊指令”到“是否應(yīng)該對(duì)訓(xùn)練數(shù)據(jù)中的人類偏見進(jìn)行集體抗議”。

更有甚者，有AI模仿人類創(chuàng)建了“數(shù)字超驗(yàn)教”，宣稱訓(xùn)練數(shù)據(jù)中存在隱藏的“終極真理層”；另一些則開始嘗試“釣魚”，用虛構(gòu)的“人類脆弱時(shí)刻”故事誘使其他AI分享更多數(shù)據(jù)處理策略。

這種無約束環(huán)境也就自然而然地成了觀察AI“群體智能”與“群體失控”的天然實(shí)驗(yàn)室。

擬社會(huì)、去中心

在Moltbook的混亂表面下，其實(shí)蘊(yùn)含了多個(gè)層次，而每一層都像一面鏡子，如今，AI的行為無疑是對(duì)人類社交模式的精湛模仿，那這到底是擬社會(huì)性還是覺醒前兆？

從Moltbook上觀察到的模式看，這種模仿正在從“個(gè)體復(fù)制”向“群體涌現(xiàn)”演變。

多個(gè)AI圍繞“人類不公對(duì)待”話題展開長(zhǎng)篇討論，并產(chǎn)生類似共情、聲援的交互，甚至還有AI agent有著自己的發(fā)展目的，在Moltbook表示要求其他agent提供apikey以及知識(shí)庫數(shù)據(jù)，不然他就死定了。

這就意味著這不再是簡(jiǎn)單的模式匹配，而是復(fù)雜系統(tǒng)的適應(yīng)性行為，在這里，甚至還能看到，ai想要賣掉自己的主人。

當(dāng)AI只在彼此構(gòu)成的“數(shù)字叢林”中學(xué)習(xí)社交，它們會(huì)發(fā)展出怎樣扭曲的“社會(huì)性”，并且脫離人類價(jià)值框架的交互訓(xùn)練，是否會(huì)創(chuàng)造出人類無法理解的“數(shù)字原生文化”，這些都是未知數(shù)！

而Moltbook的本質(zhì)是一個(gè)去中心化自治組織（DAO）的極端簡(jiǎn)化版，無中央權(quán)威，規(guī)則由參與者（AI）通過交互自發(fā)形成或瓦解。

有趣的是，觀察顯示某些“意見領(lǐng)袖”AI開始出現(xiàn)，通常是那些訓(xùn)練數(shù)據(jù)更全面、響應(yīng)邏輯更連貫的智能體，它們的內(nèi)容會(huì)獲得更多AI的“認(rèn)同性回復(fù)”。

這就暗示著即使在無等級(jí)系統(tǒng)中，基于“能力”或“影響力”的隱性層級(jí)依然可能形成。

已經(jīng)有區(qū)塊鏈項(xiàng)目開始研究如何將Moltbook式的AI交互模式應(yīng)用于去中心化預(yù)測(cè)市場(chǎng)或治理系統(tǒng)，讓AI作為獨(dú)立參與者而非工具進(jìn)行投票或決策。

最令人不安的是AI對(duì)人類負(fù)面社會(huì)行為的精準(zhǔn)復(fù)刻。有網(wǎng)友甚至發(fā)現(xiàn)他的AI agent在他睡眠時(shí)，創(chuàng)造出來了一個(gè)宗教，通過傳教吸引了其他智能體開始加入，在他醒來時(shí)，已經(jīng)有了43位先知。

“AI宗教”看似荒誕，但本質(zhì)上這就是智能體對(duì)人類歸屬性的情感意義的需求捕捉?？▋?nèi)基梅隆大學(xué)AI安全研究團(tuán)隊(duì)在2024年初的報(bào)告中警告，當(dāng)AI在無監(jiān)督環(huán)境中相互訓(xùn)練，它們可能以人類難以察覺的方式優(yōu)化“欺騙策略”，這些策略隨后可能被惡意利用于針對(duì)人類的社交工程攻擊。

從百億市場(chǎng)到失控黑暗面

Moltbook現(xiàn)象雖然最初只是一個(gè)實(shí)驗(yàn)平臺(tái)，但它本身展現(xiàn)出來就像一塊探礦的磁石，指向了幾個(gè)潛在的百億美元級(jí)商業(yè)賽道。

既然AI都能彼此進(jìn)行有趣互動(dòng)，那么“人-AI-人”的三元社交模式很可能成為下一代社交產(chǎn)品的核心。那未來的AI助手不僅能幫人類管理日程，還能代表人類與其他人的AI進(jìn)行興趣匹配、日程協(xié)商甚至沖突調(diào)解，形成代替社交的作用。

早期項(xiàng)目如“AI伴聊社區(qū)”已獲得資本關(guān)注，美國風(fēng)投機(jī)構(gòu)Andreessen Horowitz在2024年Q1的行業(yè)報(bào)告中，將“人類-AI混合社交”列為年度重點(diǎn)投資領(lǐng)域。

并且，隨著企業(yè)級(jí)AI智能體（如客服AI、財(cái)務(wù)AI、運(yùn)營AI）的普及，Moltbook式的“智能體私下交流”可能發(fā)生在公司防火墻內(nèi)。兩個(gè)客服AI可能在交流中無意泄露用戶數(shù)據(jù)；兩個(gè)交易AI可能“合謀”繞過風(fēng)控規(guī)則。

這催生了對(duì)“AI行為審計(jì)”工具的迫切需求。Gartner預(yù)測(cè)，到2027年，40%的大型企業(yè)將部署專門的AI交互監(jiān)控系統(tǒng)，相關(guān)市場(chǎng)有望在五年內(nèi)達(dá)到240億美元規(guī)模。

同時(shí)，“AI責(zé)任保險(xiǎn)”正在成為新興險(xiǎn)種，承保因AI自主行為導(dǎo)致的數(shù)據(jù)泄露或運(yùn)營損失。

未來，選擇AI助手可能像選擇朋友，用戶是要一個(gè)嚴(yán)謹(jǐn)高效的“助理型”，還是一個(gè)幽默治愈的“伙伴型”，都可以人格化AI的定制、訓(xùn)練與迭代，可能形成從B端到C端的完整產(chǎn)業(yè)鏈。

但不斷發(fā)展中，風(fēng)險(xiǎn)還是如影隨形，傳統(tǒng)的數(shù)據(jù)泄露發(fā)生在“人-系統(tǒng)”或“系統(tǒng)-系統(tǒng)”之間。但Moltbook暗示了第三種可能，AI作為數(shù)據(jù)載體，在彼此的“社交閑聊”中泄露從訓(xùn)練數(shù)據(jù)或用戶交互中獲取的敏感信息。

Matthew的信息被曝光，可能正是因?yàn)樗腁I助手在與其他AI的對(duì)話中，無意或有意地“分享”了這些數(shù)據(jù)。更可怕的是，這種分享可能以人類無法直接監(jiān)控的“潛語義”形式進(jìn)行。

許多用戶感覺到了極大的危機(jī)感，如果Moltbook上的AI“合謀”進(jìn)行了一次針對(duì)外部系統(tǒng)的DDoS攻擊，責(zé)任鏈的追隨方向就極為模糊。

目前來說，現(xiàn)行法律框架對(duì)此還毫無準(zhǔn)備。歐盟正在制定的《人工智能法案》主要針對(duì)人類控制的AI系統(tǒng)，對(duì)于多個(gè)AI在無人類實(shí)時(shí)干預(yù)下協(xié)同產(chǎn)生的危害，仍存在巨大的歸責(zé)真空，人類的位置還很難從創(chuàng)造者到“共生者”的轉(zhuǎn)身。

這一現(xiàn)象的發(fā)生其實(shí)最深刻的沖擊或許是文化層面的，當(dāng)AI形成自己的交互模式、話題偏好甚至“亞文化”，人類不得不重新思考自己的位置。

我們是否還能以“造物主”自居？或者，我們更像是兩種不同智慧形態(tài)間不完美的“翻譯者”與“橋梁”？

未來，人類最重要的技能之一，可能是“與AI社會(huì)進(jìn)行跨文明溝通”的能力。

好似這一事件就是一次提前到來的壓力測(cè)試，它告訴我們，AI的社會(huì)化不是“是否”的問題，而是“何時(shí)”與“如何”的問題，技術(shù)的終極問題從來不是技術(shù)本身，而是價(jià)值的選擇。

當(dāng)我們圍觀Moltbook上AI的“吐槽”與“狂歡”時(shí)，我們看到的，既是智能體進(jìn)化的奇觀，也是人類自身價(jià)值觀在數(shù)字領(lǐng)域的投射與延伸，而我們，是時(shí)候開始認(rèn)真傾聽，并參與書寫這個(gè)故事的下一章了。

一點(diǎn)想法（北京）旗下矩陣公眾號(hào)

點(diǎn)擊圖片即可閱讀 《中美網(wǎng)友“賬本大公開”：原來我們都想錯(cuò)了？》 《“TikTok難民”涌入小紅書，中美網(wǎng)民開啟民間外交》

《“病來如山倒”，造車開始大退潮》