文 ｜Saltie

編輯 ｜ Wen

3月10日，小紅書官方賬號(hào)“薯管家”發(fā)布《關(guān)于打擊AI托管運(yùn)營(yíng)賬號(hào)的治理公告》，宣布即日起對(duì)“純AI托管賬號(hào)”開展專項(xiàng)治理。

根據(jù)規(guī)則，平臺(tái)將對(duì)不同類型的違規(guī)行為采取分級(jí)處理：

1.若普通賬號(hào)偶發(fā)使用AI托管進(jìn)行代寫、代發(fā)或虛假互動(dòng)，將根據(jù)情節(jié)給予警告、限制分發(fā)等處罰；

2.通過AI工具完成注冊(cè)、發(fā)布、互動(dòng)等全流程運(yùn)營(yíng)，或主頁(yè)公開筆記全部由AI代發(fā)的賬號(hào)，則將被直接封禁。

這一治理標(biāo)準(zhǔn)與國(guó)家《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》中 “禁止機(jī)器冒充真人運(yùn)營(yíng)” 的核心要求一致。

內(nèi)容平臺(tái)進(jìn)入“AI運(yùn)營(yíng)監(jiān)管”時(shí)代

從平臺(tái)表態(tài)來看，此次治理直指近期快速蔓延的“AI托管”產(chǎn)業(yè)鏈。

平臺(tái)監(jiān)測(cè)發(fā)現(xiàn)，一些用戶借助OpenClaw（俗稱“龍蝦”）等AI工具，將賬號(hào)注冊(cè)、內(nèi)容生成到評(píng)論互動(dòng)實(shí)現(xiàn)自動(dòng)化運(yùn)營(yíng)，并以批量生產(chǎn)“偽體驗(yàn)”筆記的方式進(jìn)行種草引流，甚至通過私信導(dǎo)流、虛假互動(dòng)等方式變現(xiàn)。

這類賬號(hào)通常呈現(xiàn)出明顯的模板化特征：語(yǔ)氣統(tǒng)一、配圖模式相似、評(píng)論互動(dòng)高度機(jī)械化。

短期來看，這種批量生產(chǎn)模式會(huì)迅速占據(jù)內(nèi)容分發(fā)空間；但從平臺(tái)生態(tài)角度看，其對(duì)“真實(shí)分享”的社區(qū)基礎(chǔ)構(gòu)成了直接沖擊，甚至已經(jīng)出現(xiàn)用戶因AI筆記誤導(dǎo)消費(fèi)而產(chǎn)生權(quán)益糾紛的情況。

為配合此次治理，小紅書同步開放了專項(xiàng)舉報(bào)入口。用戶可在筆記頁(yè)面通過“分享-舉報(bào)-對(duì)他人造成困擾或危害-AI 造假”進(jìn)行反饋，也可以在賬號(hào)頁(yè)通過“右上角（···）標(biāo)識(shí)”進(jìn)行舉報(bào)，發(fā)起投訴。平臺(tái)同時(shí)強(qiáng)調(diào)，本輪治理的重點(diǎn)并非限制AI技術(shù)使用，而是劃清邊界：AI可以作為內(nèi)容生產(chǎn)工具參與創(chuàng)作，但不能替代真人進(jìn)行賬號(hào)運(yùn)營(yíng)與互動(dòng)。

據(jù)悉，公告發(fā)布后，部分從事批量“養(yǎng)號(hào)”的灰產(chǎn)團(tuán)隊(duì)已經(jīng)開始刪除內(nèi)容、注銷賬號(hào)，而真人創(chuàng)作者普遍表達(dá)支持，認(rèn)為平臺(tái)正在重新保護(hù)真實(shí)創(chuàng)作的流量空間。

業(yè)內(nèi)人士分析認(rèn)為，小紅書對(duì)“AI托管”的明確禁令，或?qū)⒊蔀槠脚_(tái)治理AI內(nèi)容的重要分水嶺。隨著 AI 深度參與內(nèi)容生產(chǎn)，平臺(tái)需要在鼓勵(lì)技術(shù)效率與維護(hù)生態(tài)秩序之間尋找平衡。一方面，AI 已經(jīng)成為創(chuàng)作者的重要工具，可以用于選題、寫作、剪輯甚至數(shù)據(jù)分析；另一方面，如果 AI 可以完全替代真人進(jìn)行賬號(hào)運(yùn)營(yíng)，內(nèi)容生產(chǎn)的規(guī)模與速度將遠(yuǎn)超平臺(tái)生態(tài)能夠承受的范圍。

目前抖音、快手已經(jīng)開始整治AI虛擬人帶貨和低質(zhì)批量視頻，B站、知乎也在強(qiáng)化AI內(nèi)容標(biāo)識(shí)機(jī)制。隨著生成式AI深度進(jìn)入內(nèi)容生產(chǎn)環(huán)節(jié)，“允許AI輔助創(chuàng)作、禁止AI替代真人運(yùn)營(yíng)”很可能逐漸成為平臺(tái)之間形成共識(shí)的治理原則。與此同時(shí)，這一政策也將直接沖擊“AI起號(hào)”“批量賣號(hào)”等灰色產(chǎn)業(yè)鏈，推動(dòng)內(nèi)容平臺(tái)重新強(qiáng)調(diào)真實(shí)體驗(yàn)與真實(shí)表達(dá)的價(jià)值。

AI時(shí)代，

真人社區(qū)成為平臺(tái)價(jià)值的護(hù)城河

更進(jìn)一步講，我們也能從此次事件中觀察到更加深刻的行業(yè)走向變化：隨著AI內(nèi)容的日漸泛濫，社群反而成為當(dāng)今最稀缺的資源。

這聽起來像是一個(gè)悖論，技術(shù)正在變得越來越先進(jìn)，為什么還要關(guān)注原來這些低效率的內(nèi)容生產(chǎn)方式？但如果我們把目光投向海外，就會(huì)發(fā)現(xiàn)類似的做法并不罕見。在海外大模型發(fā)展如火如荼的今天，Open AI、Google等公司，都在將目光投向Reddit等論壇平臺(tái)，尋求與這些有著大量真人產(chǎn)生的文本內(nèi)容的平臺(tái)合作。

合作的直接原因，是大公司希望這些有著真人語(yǔ)料的平臺(tái)能夠?yàn)榇笳Z(yǔ)言模型的訓(xùn)練提供支持。大語(yǔ)言模型的訓(xùn)練，本質(zhì)上是一個(gè)統(tǒng)計(jì)規(guī)律提取的過程。模型通過海量文本學(xué)習(xí)詞語(yǔ)共現(xiàn)的概率、句法結(jié)構(gòu)的模式、語(yǔ)義關(guān)聯(lián)的規(guī)則。從這一底層邏輯出發(fā)，可以說，想要訓(xùn)練一個(gè)優(yōu)秀的大語(yǔ)言模型，需要兩種類型的數(shù)據(jù)：

• 通用文本數(shù)據(jù)：包括網(wǎng)頁(yè)、圖書、新聞報(bào)道等，這類數(shù)據(jù)規(guī)模大、覆蓋面廣，主要提升模型的泛化能力；

• 專用文本數(shù)據(jù)：包括多語(yǔ)言內(nèi)容、科學(xué)論文、代碼等，提升模型完成專項(xiàng)任務(wù)的能力。

而社群語(yǔ)言恰恰處在這兩者的中點(diǎn)。它既有通用文本的多樣性，又在特定話題上具有深度。更重要的是，社群數(shù)據(jù)包含了一種AI生成內(nèi)容永遠(yuǎn)無法提供的東西，也就是互動(dòng)中的語(yǔ)境。

一篇Reddit帖子或者小紅書筆記之所以有價(jià)值，不僅在于主貼內(nèi)容，還在于評(píng)論區(qū)里的追問、反駁、補(bǔ)充。這種多輪互動(dòng)中蘊(yùn)含的”對(duì)話邏輯“，用戶之間如何澄清歧義、如何回應(yīng)質(zhì)疑、如何基于上下文推進(jìn)話題，這些都是訓(xùn)練模型理解真實(shí)對(duì)話的核心素材。

同時(shí)，有研究嘗試用RAG（檢索增強(qiáng)生成）框架分析Reddit社區(qū)，發(fā)現(xiàn)結(jié)合真實(shí)社群數(shù)據(jù)的模型在分類任務(wù)上F1分?jǐn)?shù)達(dá)到0.99以上，顯著優(yōu)于傳統(tǒng)基線模型。這說明，真實(shí)社群的對(duì)話結(jié)構(gòu)本身，就是一種高質(zhì)量的”訓(xùn)練教材“。而另一方面，也有研究指出，AI生成文本可以作為數(shù)據(jù)稀缺時(shí)的補(bǔ)充，但絕對(duì)無法替代真實(shí)數(shù)據(jù)。當(dāng)訓(xùn)練集中AI生成內(nèi)容占比過高時(shí)，模型就會(huì)出現(xiàn)崩潰的風(fēng)險(xiǎn)。

但是，如果僅僅是為了有利于大模型的訓(xùn)練，顯然不足以成為小紅書大力整治AI的理由。更關(guān)鍵的問題在于社群自身。試想，如果小紅書的平臺(tái)上充斥著AI生成內(nèi)容，那么用戶有什么理由停留在小紅書而不是去直接與AI大模型互動(dòng)呢？而這一潛在的風(fēng)險(xiǎn)正在隨著大語(yǔ)言模型帶來的內(nèi)容爆炸式增長(zhǎng)而不斷提高。而這也根本性的扭轉(zhuǎn)了過去十年移動(dòng)互聯(lián)網(wǎng)時(shí)代內(nèi)容平臺(tái)的競(jìng)爭(zhēng)邏輯。在過去十年里，哪個(gè)平臺(tái)的內(nèi)容多，就能讓用戶在平臺(tái)上消耗更多的用戶時(shí)長(zhǎng)，平臺(tái)也因此可以從這些數(shù)據(jù)中獲益。

但這種模式正在隨著內(nèi)容的泛濫而失效。在AI內(nèi)容大量充斥平臺(tái)的情況下，當(dāng)用戶發(fā)現(xiàn)自己關(guān)注的“寶藏博主”其實(shí)是一個(gè)AI賬號(hào)，當(dāng)評(píng)論區(qū)里的“熱心網(wǎng)友”其實(shí)是自動(dòng)回復(fù)的程序，當(dāng)種草筆記里的“親身體驗(yàn)”全是AI編造，平臺(tái)與用戶之間的信任基礎(chǔ)就會(huì)崩塌。而這種信任，一旦崩塌就極難重建。

小紅書的治理，標(biāo)志著平臺(tái)競(jìng)爭(zhēng)從“流量邏輯”轉(zhuǎn)向“信任邏輯”。流量可以靠技術(shù)堆砌，信任只能靠時(shí)間沉淀。一個(gè)平臺(tái)上如果全是AI，它可以在短期內(nèi)產(chǎn)出海量?jī)?nèi)容，但長(zhǎng)期來看，它只是一座數(shù)據(jù)工廠，而不是一個(gè)社區(qū)。社區(qū)的價(jià)值，不在于“產(chǎn)出”，而在于“連接”。 而連接的前提，是雙方都知道自己在和真人對(duì)話，而這也是小紅書得以在過去幾年中快速崛起的關(guān)鍵。

總而言之，小紅書的策略絕非是過度反應(yīng)。AI可以是工具，可以是助手，可以輔助創(chuàng)作、提升效率；但它不能成為替身，不能冒充真人，不能侵蝕社群最核心的信任資產(chǎn)。

展望未來，AI與真人社群的關(guān)系不是取代，而是互補(bǔ)。AI將承擔(dān)越來越多的內(nèi)容生產(chǎn)任務(wù)，釋放人類的創(chuàng)造力；但真正的社群價(jià)值，將越來越聚焦于那些AI無法復(fù)制的東西。正是這些看似“低效”的連接，構(gòu)成了人類社會(huì)的底色。而能夠承載這種連接的平臺(tái)，將在AI時(shí)代找到新的成長(zhǎng)方向。