“鼓勵(lì)A(yù)I創(chuàng)作的同時(shí)，也在限制AI。平臺(tái)的這種矛盾心理讓創(chuàng)作者迷茫，困惑，不知何去何從?！?br/>

撰文｜何聆箏

編輯｜翟文婷

一場針對(duì)AIGC作品的限制，正規(guī)?；叵砀鱾€(gè)平臺(tái)。

一些AIGC創(chuàng)作者在小紅書拉起群組，分享自己被限制的經(jīng)歷。有人發(fā)布12星座內(nèi)容被判定「傳播封建迷信」，有人因?yàn)樯葾I明星而遇到「侵權(quán)」提示?！柑摌?gòu)事件」和「假冒真人」是最常被引用的處罰理由。

同樣的情況也發(fā)生在視頻號(hào)和抖音，大量AIGC作品遭遇下架和封禁。作品即便不被封禁，也會(huì)被限制流量曝光和商業(yè)權(quán)益。

許多人推斷，這一輪監(jiān)管可能與9月1日即將實(shí)施的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》有關(guān)。該《辦法》要求所有AIGC內(nèi)容需添加顯式標(biāo)識(shí)（如文字提示、角標(biāo)、語音聲明）和隱式標(biāo)識(shí)（如元數(shù)據(jù)、數(shù)字水?。?。

不過依然有創(chuàng)作者反映，標(biāo)注AI水印后的作品，還是沒有被正常對(duì)待。

鼓勵(lì)A(yù)I創(chuàng)作的同時(shí)，也在限制AI。

平臺(tái)的這種矛盾心理讓創(chuàng)作者迷茫，困惑。他們不是明知故犯，挑戰(zhàn)規(guī)則，只是不知道邊界和紅線到底在哪，未來不知何去何從。

一、頻繁踩紅線？

AIGC創(chuàng)作者林聰最近有點(diǎn)煩。

她發(fā)布在視頻號(hào)的兩個(gè)AI人物視頻，因?yàn)楸慌卸ǚ钦嫒顺鲧R，視頻推薦、私信和評(píng)論能力直接被停用。

按照要求，林聰詳細(xì)提交了個(gè)人身份驗(yàn)證，選定AI制作選項(xiàng)，提交相關(guān)手機(jī)制作截圖。系統(tǒng)回復(fù)，信息不夠詳細(xì)，不能證明制作過程。

雖然她內(nèi)心有些不情愿，還是按照提示，再次把PC 端所有制作關(guān)鍵流程截圖依序提交。這次驗(yàn)證通過，而且系統(tǒng)提示：之后發(fā)表AI 制作內(nèi)容，選擇「內(nèi)容為AI技術(shù)制作，虛構(gòu)內(nèi)容請(qǐng)謹(jǐn)慎甄別」等提示。

不過這次驗(yàn)證只是恢復(fù)了視頻評(píng)論功能，若需恢復(fù)私信功能，需要?jiǎng)h除所有AI制作內(nèi)容后，再次提交申請(qǐng)。

刪除作品等于擦除個(gè)人名片，這讓她有些無法接受，所以至今她的私信功能都沒有恢復(fù)。

即便如此，林聰?shù)捏w感是，這波針對(duì)AI作品的監(jiān)管風(fēng)潮，視頻號(hào)不是最嚴(yán)苛的平臺(tái)。她告訴新莓daybreak，「好像除了快手打上AI標(biāo)識(shí)沒什么影響，幾個(gè)大的視頻平臺(tái)都在清查AI創(chuàng)作的作品?！?/p>

林聰不是個(gè)例。小紅書關(guān)于AI限流的筆記數(shù)量超過3萬篇。從流量曝光，商業(yè)權(quán)益限制，到產(chǎn)品被下架，涉及不同程度的封禁。

短視頻平臺(tái)風(fēng)聲鶴唳，網(wǎng)文圈的行動(dòng)其實(shí)更早。

今年2月，晉江打出「反AI」的第一槍，發(fā)布了《關(guān)于AI輔助寫作使用、判定的試運(yùn)行公告》，明確規(guī)定使用AI的邊界。接著，起點(diǎn)、番茄小說宣布全面禁止AI，要求作品必須100%人工創(chuàng)作。

網(wǎng)文平臺(tái)整治力度之強(qiáng)，導(dǎo)致出現(xiàn)不少誤判的現(xiàn)象。甚至評(píng)論區(qū)出現(xiàn)「感覺像是AI寫的」，也有可能被編輯永久拉黑。

電商也加入行列，對(duì)「AI假圖」進(jìn)行整頓。

3月27日，淘寶修訂了《淘寶網(wǎng)商品發(fā)布規(guī)范》和《天貓商品發(fā)布規(guī)范》，對(duì)「商品失真」做出明確的拓展解讀。其中一個(gè)重點(diǎn)的指向，便是利用AI等技術(shù)合成方式，呈現(xiàn)顯著失真的與實(shí)際不符的商品信息效果圖。

整治力度空前，大有「寧殺錯(cuò)不放過」的決心。

二、AI原罪？

過去兩年，在「AI暴富論」、「超級(jí)個(gè)體」的敘事邏輯下，「一鍵生成」的內(nèi)容迅速在互聯(lián)網(wǎng)泛濫。

有人利用AI賣課，有人利用AI數(shù)字人販賣三無產(chǎn)品。淘寶上，大量AI生成的賣家秀誤導(dǎo)消費(fèi)者購入，結(jié)果到手商品與圖片嚴(yán)重不符。AI亂象，AI污染的聲音不絕于耳。

據(jù)林聰觀察，這一輪AI內(nèi)容治理中，打擊較多的是同質(zhì)化、低原創(chuàng)性內(nèi)容?！脯F(xiàn)在有了AI，誰家的內(nèi)容火了，大家就會(huì)快速大量地復(fù)制。」

一個(gè)典型的例子就是今年過年期間《哪吒》爆火后，抖音出現(xiàn)了大量跟風(fēng)制作哪吒的現(xiàn)象。而這類題材往往使用的都是相似的提示詞或者同一個(gè)Lora生成的內(nèi)容。

AI也讓一些機(jī)構(gòu)的起號(hào)成本變低了，利用AI工具一天內(nèi)可以生成了上百篇引發(fā)矛盾對(duì)立的筆記。小紅書去年三個(gè)月里處置了超過100萬個(gè)黑灰產(chǎn)團(tuán)伙，均為通過超大規(guī)模矩陣生成同質(zhì)化內(nèi)容。

為此，抖音從算法層面切入，將「原創(chuàng)識(shí)別率」納入核心指標(biāo)，AI生成內(nèi)容若未標(biāo)注或存在同質(zhì)化「如重復(fù)率超25%」，會(huì)被判定為低質(zhì)內(nèi)容。而視頻號(hào)則明確「禁止批量發(fā)布通過近似的情景、文案、元素等編造的同質(zhì)化內(nèi)容」。

平臺(tái)重點(diǎn)整治的另一個(gè)方向便是，虛構(gòu)真人形象和情節(jié)虛假夸大。

從平臺(tái)的角度，這一點(diǎn)不難理解。畢竟小紅書以「真實(shí)分享」為社區(qū)根基，視頻號(hào)則要保障社交關(guān)系鏈中的信息可信度。

這也是為什么，小紅書去年就著手研發(fā)基于「分類器」技術(shù)的AI識(shí)別模型，對(duì)識(shí)別為疑似AI生成的內(nèi)容進(jìn)行標(biāo)記。為了鞏固效果，小紅書還設(shè)置了機(jī)器識(shí)別與人工審核的雙重屏障。

站在創(chuàng)作者的角度來看，這有些無奈。

因?yàn)椤刚鎸?shí)」這一特質(zhì)天然就和AIGC背離，人物本身就是虛構(gòu)的，情節(jié)自然也是虛構(gòu)，所以這更像是貼附于自身的「原罪」。

平臺(tái)為「真實(shí)」所設(shè)立的門檻，還引發(fā)了另一個(gè)層面的「不公」：比起真實(shí)題材的視頻，AIGC的審核標(biāo)準(zhǔn)更為嚴(yán)苛。

半職業(yè)AIGC創(chuàng)作者藍(lán)心的作品最近也遭遇了違規(guī)提示。在小紅書上，她曾先后發(fā)布了一系列真實(shí)的王一博的照片和AI生成的王一博視頻。如今，前者仍掛在她的主頁，而后者已經(jīng)被平臺(tái)要求刪除。同樣的題材，因?yàn)槭怯葾I生成，便得到不同的判定結(jié)果。

值得一提的是，當(dāng)下所有AI視頻工具都在強(qiáng)調(diào)「真實(shí)感」。比如可靈的物理規(guī)律模擬、大幅度運(yùn)動(dòng)生成，比如即夢(mèng)的質(zhì)感提升、動(dòng)作模仿，一切都在強(qiáng)調(diào)自身生成的效果接近真實(shí)。

從結(jié)果看，平臺(tái)不希望創(chuàng)作者利用AI復(fù)原人物真實(shí)感，假如AI創(chuàng)作一只小貓、小狗，做出真實(shí)感，應(yīng)該是會(huì)被接納的。

三、未來何去何從？

AI創(chuàng)作內(nèi)容被嚴(yán)格限流的同時(shí)，各平臺(tái)的AI「軍備競賽」卻是日趨白熱化。

3月19日，小紅書才剛為旗下的AI應(yīng)用「點(diǎn)點(diǎn)」上線了新入口，位于消息頁面，且支持深度思考模式。幾天前，字節(jié)開啟了「即夢(mèng)3.0」的灰度測試，該版本在分辨率上提升了50%，生成速度提升了30%。

更方便的入口、更新的版本、更強(qiáng)的性能，這些平臺(tái)投入了大量資源，推動(dòng)了AI工具的發(fā)展。目的是為了搶占下一代內(nèi)容生產(chǎn)基礎(chǔ)設(shè)施，將創(chuàng)作者綁定在自身生態(tài)內(nèi)。

但當(dāng)大量創(chuàng)作者開始使用AI工具，并且涌入AIGC這個(gè)領(lǐng)域，平臺(tái)卻缺少一套清晰的規(guī)則和審核標(biāo)準(zhǔn)來承接，這讓質(zhì)疑聲頻出。

有人說平臺(tái)使勁拉人給AI工具做任務(wù)，搞了特別多相關(guān)的比賽和活動(dòng)，然后大規(guī)模封禁，是一種誘導(dǎo)；也有人也說AI給平臺(tái)帶來不了利益，影響真人主播的收益，趁著政策出臺(tái)，正好「一刀切」比較痛快。

平臺(tái)既扮演AI工具提供者，又承擔(dān)內(nèi)容審核者角色，這種雙重身份本身就是一種挑戰(zhàn)。

有些平臺(tái)甚至還在主動(dòng)催生矛盾，比如番茄小說為了訓(xùn)練自己的AI，在簽約協(xié)議中曾新增AI訓(xùn)練條款，引發(fā)過大量作者抵制和不滿。

自2023年生成式AI廣泛運(yùn)用以來，伴隨AIGC作品而來的就是諸多質(zhì)疑和限制。知名如AI繪畫作品《太空歌劇院》，曾兩次進(jìn)行版權(quán)申請(qǐng)被拒絕。

AI作品不僅版權(quán)上得不到正名，「同行」之間的關(guān)系也愈發(fā)緊張。大量傳統(tǒng)內(nèi)容創(chuàng)作者豎起了「反AIGC」的旗幟。這也使得2024年一款名為Cara的反AIGC社交產(chǎn)品，開始頻繁登頂美國App Store的下載榜單。

小紅書上也形成了一種「反AIGC」的氛圍，創(chuàng)作者唐飛對(duì)此感到無奈，「一些用戶看到AIGC作品就會(huì)點(diǎn)舉報(bào)，特別是繪畫圈的那群人。」

除了社會(huì)和法律法規(guī)層面的不被認(rèn)同，對(duì)大模型廠商，AIGC還意味著一種危險(xiǎn)：用AI生成的數(shù)據(jù)去訓(xùn)練AI超過5次，模型性能會(huì)大減。萊斯大學(xué)和斯坦福團(tuán)隊(duì)的研究人員將此稱之為「模型自噬障礙（MAD）」。

而當(dāng)下的中文互聯(lián)網(wǎng)，AIGC作品正在走向泛濫。在已經(jīng)公布數(shù)據(jù)的平臺(tái)中，微信視頻號(hào)AI生成內(nèi)容占比已經(jīng)達(dá)到了30%。

其它平臺(tái)上，AI生成內(nèi)容也肉眼可見地攀升。這一次封禁，小紅書上的一條評(píng)論得到了高贊：這是好事，每次搜資料搜素材出來全是大批大批的AI，想找到正經(jīng)參考的都難。

大刀闊斧砍向AIGC的平臺(tái)，有點(diǎn)像是在治理一場數(shù)字領(lǐng)域的「蝗災(zāi)」，目的不是為了「滅絕」，先從整體數(shù)量規(guī)模上減少，再從生態(tài)環(huán)境中防治劣質(zhì)內(nèi)容的生產(chǎn)。

面向未來，AIGC創(chuàng)作者又該何去何從？

有人總結(jié)了一條「532法則」，即：50%的人工，原創(chuàng)案例、真實(shí)情感、獨(dú)家觀點(diǎn)；30%的AI，數(shù)據(jù)整理、框架搭建、標(biāo)題優(yōu)化；20%的工具，用ContentAny等去除AI痕跡。

但這些經(jīng)驗(yàn)是否奏效，誰也無法保證。又或者說，當(dāng)下奏效的經(jīng)驗(yàn)，幾個(gè)月后是否依然可行，沒人知道。

所有人都要習(xí)慣這種不確定性。