“AI魔改”視頻 圖片由人機(jī)協(xié)同生成

　　為整治“AI魔改”亂象，國家廣播電視總局自2026年1月1日起，在全國范圍內(nèi)開展為期一個月的專項治理，要求網(wǎng)絡(luò)視聽平臺落實主體責(zé)任，強化內(nèi)容審核把關(guān)，堅決清理違規(guī)內(nèi)容，處置亂象突出的賬號，扭轉(zhuǎn)“AI魔改”視頻蔓延的不良態(tài)勢，為青少年健康成長營造良好網(wǎng)絡(luò)空間。

“AI魔改”視頻的網(wǎng)友評論 劉胤衡制圖

　　“AI魔改”現(xiàn)象引人憂

　　中青報·中青網(wǎng)記者采訪的多位家長表達(dá)了對“AI魔改”現(xiàn)象的擔(dān)憂。北京家長王曼曼（化名）說，她10歲的兒子最近?？础案阈Π鏆v史人物”視頻，“雖然視頻里的人物名字大家都熟悉，但行為和臺詞完全不對，孩子有時會當(dāng)真，還拿這些內(nèi)容來考我們”。她擔(dān)心這種情況會影響孩子對歷史知識的學(xué)習(xí)。

　　深圳家長陳晨（化名）發(fā)現(xiàn)，上小學(xué)的女兒在看過一些“暗黑風(fēng)格”的卡通改編短片后，夜間會害怕，問家長“為什么可愛的卡通人物會受傷流血”。

　　在一些獵奇“AI魔改”視頻的評論區(qū)，有網(wǎng)友留言稱“第一次看很新奇，看多了就只剩無聊”。不少網(wǎng)友表達(dá)對過度“AI魔改”的不滿，認(rèn)為這類內(nèi)容“毫無內(nèi)涵”“令人不適”。

　　有業(yè)內(nèi)人士揭示此類內(nèi)容得以傳播的機(jī)制：這些新奇、反常甚至令人不適的“AI魔改”橋段，往往第一時間抓人眼球，觸發(fā)算法的推薦機(jī)制，從而獲得流量。一些制作者便以此為捷徑，將AI創(chuàng)作重心放在制造反差及追求感官刺激上。

　　追逐流量變現(xiàn)“怎么離譜怎么來”

　　這些內(nèi)容的走紅并非偶然，制作和傳播“AI魔改”視頻已形成一套完整的運作體系。

　　自媒體博主金宇（化名）在網(wǎng)絡(luò)平臺上看到一條改編自《甄嬛傳》的AI生成視頻，內(nèi)容與原劇情節(jié)形成巨大反差，獲得很高的互動數(shù)據(jù)。這讓他意識到此類內(nèi)容可能存在市場機(jī)會，于是開始模仿制作。

　　金宇介紹，通常制作者需要先從影視作品中獲取原始畫面素材，隨后使用具備“圖生視頻”功能的AI工具，對靜態(tài)畫面輸入特定文字指令，例如要求畫面中人物做出某種不符合原劇設(shè)定的現(xiàn)代行為，就此生成一段反差感十足的動態(tài)短片。

　　若需讓人物“說”出新的臺詞，流程則更為復(fù)雜，需結(jié)合語音克隆與口型同步技術(shù)，先復(fù)制演員音色生成新語音，再調(diào)整人物嘴型與之匹配。最后，通過剪輯軟件將生成的視頻片段、音效與字幕進(jìn)行合成。

　　金宇告訴記者，運營“AI魔改”賬號的核心在于“蹭熱點”。他舉例，“比如‘甄嬛會武術(shù)’的‘魔改’視頻火了，我們要將同一創(chuàng)意‘遷移’到《紅樓夢》中的林黛玉、《三國演義》中的關(guān)羽等經(jīng)典人物身上，快速制作出‘黛玉會武術(shù)’‘關(guān)羽會武術(shù)’等一系列內(nèi)容?！?/p>

　　自媒體博主徐青（化名）說，“AI魔改”的關(guān)鍵在于制造強烈的反差感與新奇感，例如讓古裝人物使用現(xiàn)代物品，或演繹完全不符合其原本身份的行為。他認(rèn)為，這種極致的反差是內(nèi)容在網(wǎng)絡(luò)平臺獲取瞬時關(guān)注的有效手段。

　　驅(qū)動整個流程運轉(zhuǎn)的終極目標(biāo)是流量變現(xiàn)。據(jù)金宇介紹，最基礎(chǔ)的變現(xiàn)方式是通過多個平臺發(fā)布內(nèi)容，依靠播放量獲取平臺補貼。當(dāng)賬號粉絲數(shù)量增長到一定規(guī)模時，就可能接到商業(yè)廣告訂單。

　　此外，“教人做號”也成為一條生財之道。徐青建立了一個數(shù)百人的付費社群，將相關(guān)操作歸納為一套標(biāo)準(zhǔn)流程進(jìn)行傳授，從素材獲取、AI生成、音頻處理，到后期合成等環(huán)節(jié)，都有對應(yīng)的工具軟件。

　　視頻創(chuàng)作者對流量變現(xiàn)的追逐，是此類內(nèi)容滑向“怎么離譜怎么來”的重要推手。“‘AI魔改’的核心不是創(chuàng)作，而是想盡辦法把流量快速變成錢。”徐青直言。

　　“AI魔改”治理正當(dāng)時

　　業(yè)內(nèi)人士認(rèn)為，隨著對AI生成內(nèi)容治理不斷推進(jìn)，平臺不僅是信息分發(fā)的“通道”，更應(yīng)被視為網(wǎng)絡(luò)內(nèi)容生態(tài)的“第一責(zé)任人”與“核心治理主體”，須對所傳播內(nèi)容的安全性與導(dǎo)向性承擔(dān)明確管理責(zé)任。

　　2024年年底，“全國首例AI文生視頻侵權(quán)糾紛案”宣判。湖南省長沙市開福區(qū)人民法院認(rèn)定某網(wǎng)絡(luò)公司通過其開發(fā)的“AI一鍵成片”功能，非法傳播《慶余年》短視頻片段行為構(gòu)成侵權(quán)，判令其賠償原告《慶余年》版權(quán)方某科技公司經(jīng)濟(jì)損失及合理支出共計80萬元，并立即停止侵權(quán)行為。長沙市中級人民法院二審維持原判決。

　　長沙市開福區(qū)人民法院審理認(rèn)為，本案中，某網(wǎng)絡(luò)公司沒有獲得權(quán)利人的授權(quán)，就通過某軟件的AI功能，向用戶提供3秒到7秒的《慶余年》片段，涉案作品素材片段屬于視聽作品的組成部分，具有獨創(chuàng)性，應(yīng)當(dāng)受到法律保護(hù)，網(wǎng)絡(luò)公司將素材片段上傳至服務(wù)器，使公眾能夠自主獲得，該行為已落入信息網(wǎng)絡(luò)傳播權(quán)控制范圍。作為AI服務(wù)的提供者，網(wǎng)絡(luò)公司沒有履行應(yīng)盡的注意義務(wù)，也沒有建立有效的知識產(chǎn)權(quán)侵權(quán)風(fēng)險防范機(jī)制。法院認(rèn)定被告公司通過AI功能傳播《慶余年》片段的行為存在明顯過錯，侵犯了原告的信息網(wǎng)絡(luò)傳播權(quán)。

　　2月2日，國家廣播電視總局發(fā)布“AI魔改”視頻專項治理工作進(jìn)展通報，指出專項治理工作啟動以來，各主要網(wǎng)絡(luò)視聽平臺切實履行主體責(zé)任，強化排查處置，抓好落實整改，查處一批違法違規(guī)典型案例，確保治理取得實效。在專項治理期間，累計清理相關(guān)違規(guī)視頻2.3萬條、處置違規(guī)賬號100余個。

　　通報稱，將持續(xù)開展“AI魔改”視頻治理工作，構(gòu)建常態(tài)化、制度化的長效機(jī)制，堅持標(biāo)本兼治，督導(dǎo)各網(wǎng)絡(luò)視聽平臺進(jìn)一步強化主體責(zé)任，持續(xù)營造健康的網(wǎng)絡(luò)視聽空間。

　　相關(guān)網(wǎng)絡(luò)平臺發(fā)布治理報告。淘寶平臺2月1日發(fā)布專項治理總結(jié)報告顯示，治理重點圍繞多個方面展開，包括嚴(yán)禁對四大名著、歷史及革命題材、英模故事等經(jīng)典作品進(jìn)行歪曲內(nèi)核、顛覆形象的改編；清理通過AI生成并傳播的含有低俗、暴力、獵奇或違背公序良俗的內(nèi)容；禁止篡改中華文明符號、混淆歷史，誤導(dǎo)文化認(rèn)同；全面清理以經(jīng)典動畫形象為原型惡意生成的恐怖、低俗等違規(guī)內(nèi)容，強化未成年人保護(hù)。

　　相關(guān)平臺表示將持續(xù)落實專項治理要求，提升對AI生成違規(guī)內(nèi)容的識別與處置能力，對違規(guī)內(nèi)容和賬號從嚴(yán)處理，并呼吁廣大用戶共同舉報違規(guī)行為，維護(hù)清朗有序的網(wǎng)絡(luò)社區(qū)環(huán)境。

來源：中國青年報客戶端