近日，《法治日報》記者調(diào)查發(fā)現(xiàn)，“外國山海經(jīng)”“AI山海經(jīng)”等AI魔改（指利用AI技術(shù)對原作品進行大幅或顛覆性改編的行為）內(nèi)容在網(wǎng)絡(luò)上迅速走紅，甚至滲透到低齡群體中。

“邪典視頻”卷土重來

夾雜暴力、血腥內(nèi)容

“外國山海經(jīng)”爆火小學(xué)生圈

“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)、“Lirili larlla”(音同“哩哩哩辣力辣”)……這些近來經(jīng)常出現(xiàn)在小學(xué)生們口中，宛如神秘咒語的詞匯，實則是幾幅AI生成的動畫形象的名字，比如上述兩個詞匯分別對應(yīng)“木棒人”“仙人掌象”。

諸如此類由AI拼接而成的形象還有很多，它們被孩子們統(tǒng)稱為“外國山海經(jīng)”或者“AI山海經(jīng)”。

來源：潮新聞

有家長發(fā)現(xiàn)，“孩子仿佛‘著了魔’，口中時不時蹦出來這些詞語，跟他一起玩耍的小朋友們也都如此。”

這些將毫不相干元素強行拼湊出的怪異形象，為何能在孩子們的圈子里流行起來？”上述家長百思不得其解，而且，這“外國山海經(jīng)”不僅造型詭異，更夾雜不少暴力、血腥詞匯和內(nèi)容，“孩子或許并不理解其中的含義，但會模仿學(xué)習(xí)，很容易對他們產(chǎn)生負(fù)面影響”。

更讓部分家長憂心的是，這孩子第一次接觸“山海經(jīng)”的概念，竟然是通過這些外來的且由AI生成的產(chǎn)物。甚至還有孩子認(rèn)為，“山海經(jīng)就是國外的，中國的山海經(jīng)一點兒也不好看”。

“外國山海經(jīng)”的來歷也很可疑。有記者發(fā)現(xiàn)，由于“外國山海經(jīng)”等AI圖片和視頻制作流程十分簡單，幾乎任何用戶都能在多款常見的AI視頻網(wǎng)站上，通過向AI發(fā)送基礎(chǔ)的人物形象圖片、文字描述以及有關(guān)指令，就能快速生成一段動態(tài)視頻，還可加入音效和背景音樂。

奧特曼懷孕、卡通人物挖眼珠子吃

最近廣東一家長發(fā)現(xiàn)，自己3歲的女兒在短視頻平臺上刷視頻或者動畫片時，頻繁被推送動畫風(fēng)格的“邪典視頻”。

“這些視頻大多是卡通或3D風(fēng)格，很吸引小孩子，但是卻暗藏著很多令人不適的畫面?！痹摷议L舉例，視頻中存在殘害肢體、角色從高處墜落等血腥場景，甚至有“把自己的眼珠子挖出吃掉”這樣的可怕畫面。

浙江也有家長發(fā)現(xiàn)，孩子在看完正版動畫片后，平臺會自動彈出一批顏色鮮艷卻毫無營養(yǎng)的衍生視頻，其中不乏“奧特曼懷孕”“小豬佩奇打骷髏”等暴力惡搞內(nèi)容。

然而，當(dāng)上述家長試圖為孩子屏蔽“邪典視頻”內(nèi)容時，卻發(fā)現(xiàn)，無論是投訴視頻、點擊“不喜歡”，相關(guān)內(nèi)容仍會被持續(xù)推送給孩子。

有一名曾在某視頻公司任職的受訪者向記者透露，其前公司旗下幾百個視頻號都在持續(xù)推送“邪典動畫”，將經(jīng)典的動漫人物用AI生成技術(shù)進行二次創(chuàng)作，這些視頻色彩鮮艷，更吸引兒童。

來源：潮新聞

“這類視頻不僅曝光度高，流量表現(xiàn)優(yōu)異，甚至能獲得平臺支持。這類視頻在創(chuàng)作時為博取關(guān)注，內(nèi)容套路化嚴(yán)重：以動漫角色為外殼，填充戀愛情節(jié)或暴力沖突、混戰(zhàn)場面。由于兒童的判斷能力有限，容易信以為真。”這名受訪者強調(diào)，平臺算法助推不良內(nèi)容形成傳播閉環(huán)，“孩子一旦刷到觀看，平臺就會推送更多同類內(nèi)容?！?/strong>

此外，《紅樓夢》中的人物進行“魔法戰(zhàn)爭”，《三國演義》兩軍對壘演變成“激光大戰(zhàn)”等，通過“AI魔改”對中華優(yōu)秀傳統(tǒng)文化進行歪曲和污名化的，也屬于“邪典視頻”。

有專家指出，AI魔改對經(jīng)典的傷害早已超越內(nèi)容層面，它將“低俗獵奇”包裝為“趣味創(chuàng)新”，逐步侵蝕文化傳承與下一代成長的健康土壤，甚至可能在他們心中埋下“經(jīng)典可隨意解構(gòu)”“歷史可肆意戲說”的錯誤認(rèn)知。

AI魔改催生畸形產(chǎn)業(yè)鏈

記者發(fā)現(xiàn)，在社交平臺有關(guān)帖文和短視頻平臺評論區(qū)，有許多用戶公然教學(xué)如何用關(guān)鍵詞讓AI生成大尺度圖片。

比如，如何通過替換關(guān)鍵詞，規(guī)避平臺既有限制，免費生成包含性暗示等元素的“二次元”風(fēng)格的兒童軟色情圖片，甚至出現(xiàn)“兒童懷孕”等惡劣內(nèi)容。

現(xiàn)實世界也在被AI魔改內(nèi)容逐漸“侵入”。

在電商平臺上，有不少“外國山海經(jīng)”里角色形象被印在衣服上或做成盲盒、積木等產(chǎn)品售賣；還有些商家表示可以制作AI生成手辦定制照片，商品展示圖衣著暴露、動作挑逗，并且未作年齡區(qū)分。

“外國山海經(jīng)”的衍生產(chǎn)品銷量也較高。比如某店鋪一款包含24盒的盲盒公仔售價僅11.99元，付款人數(shù)已超2萬；一些知名游戲IP推出與“外國山海經(jīng)”聯(lián)名的盲盒、卡牌。有小學(xué)教師反映，學(xué)生頻繁向家長要錢，只為購買同學(xué)手中的“外國山海經(jīng)”卡牌。

對此，有家長指出，“外國山海經(jīng)”衍生出的相關(guān)產(chǎn)品會引發(fā)未成年人之間的“隱性”攀比?！昂⒆觽兙墼谝黄鹜嫠５臅r候，如果別人有自己沒有，孩子會產(chǎn)生心理落差，甚至遭到排擠?！?/strong>

不能讓“AI魔改”的畸形產(chǎn)業(yè)鏈“作妖”

借助AI技術(shù)，進行趣味創(chuàng)新，傳承傳統(tǒng)文化，本是新瓶裝好酒的有益實踐。然而，現(xiàn)實中卻是糟蹋精華、制造糟粕的歪曲丑化。

正如在上述“外國山海經(jīng)”“邪典視頻”中的角色，有的外形怪誕低俗、名稱晦澀難懂；有的形象詭異驚悚，充斥暴力與血腥元素。這些內(nèi)容荒誕、邏輯混亂的視頻受到青少年追捧，進而發(fā)展成為一種流行于學(xué)生群體間的亞文化，其造成的危害不容小覷。

眼下，AI技術(shù)的出現(xiàn)，大幅降低了制作門檻和成本，任何人只需簡單操作，即可生成魔改動畫和“邪典視頻”。然而，“殺人的不是刀，而是執(zhí)刀的手”，錯不在科技進步本身，根本原因還是畸形產(chǎn)業(yè)鏈在“作妖”。

當(dāng)用心用情用力去創(chuàng)作提升文化認(rèn)知、開辟成長凈土的文藝作品，變得“吃力不討好”，甚至無法得到應(yīng)有的認(rèn)可和收益；而借助AI之手，制造推送“邪典視頻”，則是一本甚至無本萬利的生意時，有些人就動起利用“毒流量”的歪心思，收割孩子和家長的錢包。

由此可見，剎住“邪典動畫”的歪風(fēng)，讓所謂“外國山海經(jīng)”“惡搞紅樓夢”不再侵蝕未成年人的心智，單靠個人自覺，很難從根本上凈化市場環(huán)境，唯有重拳出擊，方能讓魑魅魍魎無處藏身。

具體而言，家長亟需加強健康上網(wǎng)引導(dǎo)，樹立家庭防護網(wǎng)，如手機、平板等電子產(chǎn)品，都要確保開啟未成年防沉迷模式。在家里要增強有效陪伴，帶頭對網(wǎng)絡(luò)依賴說不，更別把孩子簡單丟給手機和短視頻。

網(wǎng)絡(luò)平臺是信息內(nèi)容管理第一責(zé)任人。維護清朗網(wǎng)絡(luò)空間，責(zé)無旁貸。除按國家要求完善青少年模式，堵住賬號切換的漏洞以外，還需主動凈化平臺內(nèi)容，塑造正向的網(wǎng)絡(luò)導(dǎo)向，為青少年健康上網(wǎng)保駕護航。

實際上，青少年對世界充滿好奇，AI可以提供個性化學(xué)習(xí)資源，可以根據(jù)孩子興趣，拓展知識邊界，提供有針對性的深度內(nèi)容。關(guān)鍵在于，如何有效激勵優(yōu)質(zhì)作品，讓有良知、有底線的創(chuàng)作者得到應(yīng)有的回報。只有形成正向循環(huán)，才能讓青少年得到真正有營養(yǎng)的知識“投喂”。

如今，網(wǎng)絡(luò)生活已經(jīng)成為每個人避不開的第二生存空間，制造所謂“無菌室”一樣的斷網(wǎng)環(huán)境，不現(xiàn)實也不可行。堵不如疏，進一步提升孩子接觸虛擬空間的數(shù)字素養(yǎng)，增強其在人工智能浪潮中前行的能力，也是現(xiàn)代教育的應(yīng)有之義。

來源：綜合法治日報、極目新聞、紅星新聞