記者 錢玉娟

3月10日，小紅書發(fā)布了一份《關(guān)于打擊AI托管運(yùn)營賬號(hào)的治理公告》（下稱《公告》），稱發(fā)現(xiàn)部分用戶采用AI托管模式運(yùn)營賬號(hào)，通過技術(shù)手段自動(dòng)生成內(nèi)容、發(fā)布筆記，并在評(píng)論、私信、群聊等場(chǎng)景中模擬真人互動(dòng)。

這一行動(dòng)的背景是，開源AI智能體框架OpenClaw在全球掀起一場(chǎng)“養(yǎng)蝦”運(yùn)動(dòng)，眾多創(chuàng)作者開始利用AI工具進(jìn)行選題抓取、圖文生成、自動(dòng)分發(fā)、私信交互。面對(duì)大量矩陣式AI賬號(hào)擠占信息流，依賴人設(shè)感與信任背書的小紅書，開啟了一場(chǎng)社區(qū)保衛(wèi)戰(zhàn)。

“平臺(tái)嚴(yán)格禁止任何利用技術(shù)手段模擬真人、進(jìn)行非真實(shí)內(nèi)容創(chuàng)作或虛假互動(dòng)的行為�！毙〖t書呼吁用戶在創(chuàng)作過程中合理使用AI工具，堅(jiān)持由真人分享真實(shí)經(jīng)歷與感受，以共同守護(hù)社區(qū)的底色。

一位小紅書用戶認(rèn)為，“小紅書平臺(tái)最寶貴的就是人味兒。”他支持平臺(tái)在《公告》的相關(guān)舉措，認(rèn)為不只是當(dāng)下要限制和降低AI出現(xiàn)的頻率，從長遠(yuǎn)看，當(dāng)人們每天都和AI互動(dòng)交流，未來一個(gè)“反AI”的平臺(tái)反倒更有稀缺性，“都是AI以及AI生成內(nèi)容的平臺(tái)，誰還想看呢？”

目前小紅書上已經(jīng)有不少筆記被打上“內(nèi)容可能使用AI技術(shù)生成”的明顯標(biāo)識(shí)。該小紅書用戶認(rèn)為，這類AI生成內(nèi)容具有明顯特征，例如標(biāo)題、用詞和語法上都不像真人那樣隨意且情緒化，“AI會(huì)很生硬的表達(dá)�！�

一位接近小紅書的人士以“我吃飯了”這一口語表達(dá)解釋，AI訓(xùn)練過程中主要使用文獻(xiàn)等專業(yè)語料，例如“我已于今日12:30完成午餐”，而口語化數(shù)據(jù)較少，這導(dǎo)致AI“不說人話”。為此，小紅書會(huì)拿著一部分訓(xùn)練好的口語化數(shù)據(jù)樣本，進(jìn)行模型訓(xùn)練。當(dāng)其他AI模型生成的內(nèi)容出現(xiàn)較大偏差時(shí)，系統(tǒng)就能據(jù)此分析出來該內(nèi)容是否來自真實(shí)用戶。

一位互聯(lián)網(wǎng)社區(qū)產(chǎn)品技術(shù)負(fù)責(zé)人向經(jīng)濟(jì)觀察報(bào)記者指出，即便大模型生成的文本日益自然，但在大規(guī)模數(shù)據(jù)池中，模型的統(tǒng)計(jì)學(xué)特征依然明顯。這導(dǎo)致AI生成的文本在詞匯選擇上，傾向于選取概率最高的中性詞，如“首先”、“總之”。句式結(jié)構(gòu)也會(huì)更嚴(yán)謹(jǐn)，缺乏人類書寫中常見的口語化斷句、語序倒置或方言傾向。

小紅書并未在《公告》中透露其甄別AI托管的具體方法。有AI模型廠商工程師向記者透露，識(shí)別并非依賴某個(gè)單一指標(biāo)，真實(shí)用戶在社交平臺(tái)上的行為通常具有隨機(jī)性與非連續(xù)性，例如真人回復(fù)評(píng)論時(shí)存在生理性的“處理時(shí)長”波動(dòng)等。此外，編輯頁面停留時(shí)長、驗(yàn)證碼填寫速度等，都可以作為有效的輔助識(shí)別指標(biāo)。

上述互聯(lián)網(wǎng)社區(qū)產(chǎn)品技術(shù)負(fù)責(zé)人也指出，一旦“養(yǎng)蝦人”AI托管運(yùn)營社交媒體后，其腳本往往呈現(xiàn)出一定的結(jié)構(gòu)化特征，例如內(nèi)容7×24小時(shí)均勻分布，甚至定時(shí)發(fā)布精確到秒級(jí)，而在回復(fù)評(píng)論時(shí)則表現(xiàn)為恒定的響應(yīng)速度與標(biāo)準(zhǔn)化的句式長度，缺乏真實(shí)社交語境下的情緒起伏。

該互聯(lián)網(wǎng)社區(qū)產(chǎn)品技術(shù)負(fù)責(zé)人認(rèn)為，AI制造的低質(zhì)信息流一定會(huì)稀釋原生創(chuàng)作者的曝光權(quán)重，導(dǎo)致優(yōu)質(zhì)內(nèi)容供給流失。另外，像小紅書這樣靠?jī)?nèi)容種草、廣告營銷作為標(biāo)簽的社交平臺(tái)，品牌方也無法接受其廣告投放被AI賬號(hào)點(diǎn)擊或互動(dòng)的情況。

從小紅書的治理方法來看，若普通賬號(hào)偶爾使用AI托管代寫、代發(fā)筆記或互動(dòng)，平臺(tái)會(huì)采取警告或限制內(nèi)容分發(fā)等階梯式處理措施�！捌脚_(tái)有推薦權(quán)重，一旦賬號(hào)被識(shí)別或被判定為AI托管，首先會(huì)降低推薦權(quán)重并進(jìn)行攔截�！鼻笆鼋咏〖t書人士認(rèn)為，此次平臺(tái)治理的嚴(yán)苛之處在于，一旦某一賬號(hào)被判定為直接通過AI托管工具注冊(cè)、發(fā)布、互動(dòng)，或主頁所有公開筆記均為AI托管代發(fā)，平臺(tái)將直接予以封禁處理。

在當(dāng)前近乎全民將AI視為提效工具的背景下，小紅書率先對(duì)AI托管展開限制與管理�！皟�(nèi)容創(chuàng)作需要回歸‘重人設(shè)’、‘重真實(shí)經(jīng)驗(yàn)’的原始屬性�！鄙鲜龌ヂ�(lián)網(wǎng)社區(qū)產(chǎn)品技術(shù)負(fù)責(zé)人補(bǔ)充，小紅書在《公告》中還公布了用戶舉報(bào)渠道，引入用戶側(cè)的“人感驗(yàn)證”來輔助決策，這有助于彌補(bǔ)算法識(shí)別的滯后與誤判。當(dāng)大量用戶反饋某一賬戶“回復(fù)生硬”、“內(nèi)容雷同”時(shí)，平臺(tái)或?qū)⑵湟暈楦邫?quán)重的擾動(dòng)項(xiàng)，進(jìn)入人工復(fù)核流程。