最近，一對(duì)90后夫妻用AI工具批量生產(chǎn)內(nèi)容，幾分鐘就能生成一篇迎合平臺(tái)算法“口味”的公眾號(hào)文章以賺取流量收益，此事引發(fā)廣泛關(guān)注。兩人還對(duì)外推廣這套商業(yè)模式，通過(guò)“達(dá)人合作分成”模式撬動(dòng)數(shù)千賬號(hào)矩陣。

不少網(wǎng)友擔(dān)憂(yōu)，AI批量生成內(nèi)容，正淪為“數(shù)字泔水”，擠占優(yōu)質(zhì)內(nèi)容陣地，污染網(wǎng)絡(luò)生態(tài)。目前，相關(guān)公眾號(hào)已經(jīng)被平臺(tái)封禁。對(duì)此，微信平臺(tái)團(tuán)隊(duì)回應(yīng)稱(chēng)，一貫鼓勵(lì)真人創(chuàng)作，公眾號(hào)不得利用AI替代真人完成內(nèi)容創(chuàng)作、發(fā)布等流程。面對(duì)日益泛濫的“數(shù)字泔水”亂象，該如何治理？

平臺(tái)集體出手

AI代筆亂象迎來(lái)嚴(yán)管

記者調(diào)查發(fā)現(xiàn)，在二手交易平臺(tái)，類(lèi)似AI批量運(yùn)營(yíng)教程同樣泛濫。商家宣稱(chēng)，使用相關(guān)AI工具可24小時(shí)自動(dòng)抓取熱點(diǎn)、自動(dòng)寫(xiě)稿排版，號(hào)稱(chēng)“輕松月入過(guò)萬(wàn)”。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春表示，AI可以賦能創(chuàng)作，但不能替代創(chuàng)作者。完全依賴(lài)AI生成，不僅存在內(nèi)容低質(zhì)化問(wèn)題，還面臨“AI幻覺(jué)”風(fēng)險(xiǎn)，模型可能在缺乏事實(shí)依據(jù)的情況下編造信息。這類(lèi)虛假信息一旦被批量生產(chǎn)，會(huì)擠占優(yōu)質(zhì)內(nèi)容空間，污染網(wǎng)絡(luò)生態(tài)。

事實(shí)上，各大內(nèi)容平臺(tái)正集體對(duì)“AI代筆”說(shuō)不。記者查詢(xún)發(fā)現(xiàn)，3月27日，微信平臺(tái)更新運(yùn)營(yíng)規(guī)范，新增“非真人自動(dòng)化創(chuàng)作行為”的規(guī)定，明確指出公眾號(hào)和服務(wù)號(hào)不得利用AI、腳本、接口或其他自動(dòng)化方式，替代真人完成內(nèi)容創(chuàng)作、發(fā)布等流程。否則將視違規(guī)程度對(duì)相關(guān)賬號(hào)采取相應(yīng)的處理措施。

微信團(tuán)隊(duì)向總臺(tái)記者表示，平臺(tái)一貫鼓勵(lì)真人創(chuàng)作，鼓勵(lì)創(chuàng)作者合理使用工具輔助創(chuàng)作、提升創(chuàng)作效率，但反對(duì)完全由自動(dòng)化程序替代真人完成內(nèi)容生產(chǎn)的行為。

此外，小紅書(shū)官方近期發(fā)布公告，嚴(yán)格禁止任何利用技術(shù)手段模擬真人、進(jìn)行非真實(shí)內(nèi)容創(chuàng)作或虛假互動(dòng)的行為。

今日頭條披露，2025年平臺(tái)已迭代管控標(biāo)準(zhǔn)，全年處置低質(zhì)AIGC內(nèi)容超260萬(wàn)條。

目前，《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)均作出了原則性要求，禁止利用AI制作傳播違法違規(guī)信息、擾亂社會(huì)秩序。

北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心主任謝永江表示，AI不是收割流量的捷徑，建議進(jìn)一步明確法律邊界，遏制“數(shù)字泔水”泛濫，守護(hù)健康的網(wǎng)絡(luò)內(nèi)容生態(tài)。

監(jiān)制：武莉

編輯：郭潤(rùn)心語(yǔ)

責(zé)編： 劉曉琳

來(lái)源 ：中央廣電總臺(tái)中國(guó)之聲