□　中國婦女報(bào)全媒體記者高亞菲

　　最近，一些號(hào)稱“外國山海經(jīng)”的AI生成怪圖、怪視頻，在中小學(xué)里突然火了起來。這些內(nèi)容造型詭異，有的還夾雜著暴力、血腥元素，甚至歪曲歷史經(jīng)典。

　　隨著AI制作越來越簡單，一批只想“賺流量”的制作者，利用算法推薦，專門向孩子推送這些“電子糟粕”。算法推薦成為低俗內(nèi)容的“幫兇”，當(dāng)技術(shù)淪為收割注意力的工具，我們不得不問：這背后原因?yàn)楹?？該怎樣為孩子們守住一方干凈的網(wǎng)絡(luò)環(huán)境？

　　從屏幕到玩具：產(chǎn)業(yè)鏈的“快”與“害”

　　“咚咚咚咚撒呼啦！”“李麗麗拉里拉！”一個(gè)男孩一邊念念有詞，一邊和身旁的同學(xué)打鬧。這些像咒語的句子，其實(shí)“AI山海經(jīng)”怪物的名字。這種由算法批量制造、借由社交攀比傳播的“電子怪物”，正悄然改寫許多孩子的課余學(xué)習(xí)認(rèn)知與興趣。

　　“我家5歲的兒子一刷抖音就要刷山海經(jīng)，還說要外國的山海經(jīng)?！毙∮鸢职窒蛑袊鴭D女報(bào)全媒體記者講述著最近的怪事：年幼的小羽最近在手機(jī)上刷到一些奇怪的內(nèi)容。這些由AI簡單拼接生成的動(dòng)畫形象，常常夾雜著暴力畫面?！拔矣X得畫面詭異、情節(jié)也很荒誕。但色彩鮮艷、節(jié)奏快速，很容易吸引孩子觀看模仿?！?/p>

　　三年級(jí)的果果告訴媽媽，自己班上已經(jīng)有同學(xué)互相轉(zhuǎn)發(fā)這種AI魔改山海經(jīng)，于是果果媽媽打開短視頻平臺(tái)搜索相關(guān)內(nèi)容，結(jié)果被嚇了一跳。原來這類內(nèi)容不止魔改山海經(jīng)，各種童話故事和迪士尼動(dòng)畫主角都有所謂的“邪典版”。點(diǎn)開這些視頻，一些在成年人審美中稱得上獵奇、怪異、令人不適的形象比比皆是：有些視頻內(nèi)容更為驚悚，比如“奧特曼懷孕”“小豬佩奇打骷髏”等。

　　記者通過梳理和調(diào)查發(fā)現(xiàn)，這些色彩鮮艷的動(dòng)畫視頻，往往打著“益智早教”“色彩啟蒙”的旗號(hào)讓家長放松警惕。動(dòng)畫用高飽和度的色彩和快速切換的畫面吸引著孩子的注意力，內(nèi)容卻往往空洞無邏輯，甚至充斥暴力血腥。

　　更令人擔(dān)憂的是，這些內(nèi)容正從線上蔓延到線下。

　　電商平臺(tái)上，被魔改的動(dòng)畫形象被印在衣服上、做成盲盒和卡牌，以“給孩子的禮物”為名熱銷。不少孩子為了收集這些商品，頻繁向家長要錢，甚至形成了相互間的攀比。

　　在某短視頻平臺(tái)，輸入相關(guān)詞條，能看到不少孩子在視頻中開心地展示著書包掛著的“耐克鞋鯊魚”掛件，房間里擺滿了造型詭異的“木棒人”“仙人掌象”玩具……

　　平臺(tái)治理之路：如何當(dāng)好守門人？

　　盡管各大視頻平臺(tái)設(shè)有“未成年人模式”，但實(shí)測(cè)發(fā)現(xiàn)，有些含有AI魔改動(dòng)畫視頻內(nèi)容的APP只需卸載重裝，就能以“游客模式”繞過限制，繼續(xù)自由瀏覽不良內(nèi)容。

　　對(duì)此，北京理工大學(xué)智能科技法律研究中心研究員王磊表示，雖然我國已初步構(gòu)建以未成年人保護(hù)法、《中華人民共和國網(wǎng)絡(luò)安全法》《未成年人網(wǎng)絡(luò)保護(hù)條例》為核心，并包含《生成式人工智能服務(wù)管理暫行辦法》等專門規(guī)定的法律體系。然而，在具體認(rèn)定和處罰層面，針對(duì)利用AI生成、傳播危害未成年人內(nèi)容的行為，仍面臨多重挑戰(zhàn)。

　　首先，法律條文對(duì)“AI山海經(jīng)”這類新型低俗混雜內(nèi)容缺乏清晰界定，其危害性常處于認(rèn)定模糊的灰色地帶，導(dǎo)致處置依據(jù)不足。其次，AI內(nèi)容生產(chǎn)鏈條復(fù)雜，模型開發(fā)者、平臺(tái)、用戶之間的責(zé)任邊界難以清晰劃分，歸責(zé)存在現(xiàn)實(shí)困難。最后，現(xiàn)有處罰流程周期較長，與有害內(nèi)容的快速傳播不匹配，且罰款等懲戒措施威懾力有限，部分違規(guī)收益可能遠(yuǎn)高于違法成本。跨境傳播治理亦是當(dāng)前的法律執(zhí)行難點(diǎn)。

　　平臺(tái)如何當(dāng)好“守門人”？王磊認(rèn)為平臺(tái)須從根本上轉(zhuǎn)變邏輯，將社會(huì)責(zé)任置于流量目標(biāo)之上。應(yīng)建立獨(dú)立的未成年人推薦體系，降低娛樂化內(nèi)容權(quán)重，豐富優(yōu)質(zhì)教育資源，并向社會(huì)公開算法原則，接受監(jiān)督。唯有構(gòu)建真正有益的內(nèi)容生態(tài)，才能實(shí)現(xiàn)可持續(xù)的長期發(fā)展。

　　王磊補(bǔ)充，在治理層面，一是應(yīng)推行強(qiáng)制性的AI內(nèi)容標(biāo)識(shí)與透明度義務(wù)。目前，世界各國以及國際組織紛紛采取措施推進(jìn)生成式人工智能標(biāo)識(shí)制度的建立。2024年3月，聯(lián)合國發(fā)布《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機(jī)遇，促進(jìn)可持續(xù)發(fā)展》，鼓勵(lì)開發(fā)和部署有效、可獲取、適應(yīng)性強(qiáng)、具有國際互操作性的內(nèi)容認(rèn)證和來源識(shí)別機(jī)制。我國自2025年9月1日起開始施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》要求，AI生成合成內(nèi)容必須添加顯式標(biāo)識(shí)或隱式標(biāo)識(shí)，并要求提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取技術(shù)措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)。

　　二是發(fā)展以溯源和檢測(cè)為核心的技術(shù)治理工具，例如，通過隱形水印和強(qiáng)制標(biāo)簽實(shí)現(xiàn)內(nèi)容可追溯、可識(shí)別，并結(jié)合AI檢測(cè)技術(shù)，從源頭降低有害內(nèi)容的迷惑性。王磊表示，這些技術(shù)手段必須與法律監(jiān)管緊密結(jié)合，才能構(gòu)建覆蓋內(nèi)容全生命周期的有效治理閉環(huán)。

　　被算法“喂養(yǎng)”的童年：心理代價(jià)何在？

　　不少家長在焦慮的同時(shí)生出疑惑：孩子們?yōu)楹我子诒贿@類獵奇、荒誕、帶有“暗黑”元素的內(nèi)容吸引？

　　“處于此年齡段的孩子，大腦前額葉尚未發(fā)育完善，使得沖動(dòng)控制與理性判斷能力較弱，而好奇心、尋求刺激與群體歸屬感的需求則達(dá)到高峰。”鄭州知愈藝術(shù)表達(dá)成長空間、青少年心理咨詢師賈昕娜表示，青少年對(duì)“AI魔改”內(nèi)容的沉迷，根植于其心理發(fā)展的核心特點(diǎn)。

　　“具體有四點(diǎn)?！辟Z昕娜進(jìn)一步說明，一是被旺盛的獵奇心驅(qū)動(dòng)探索。AI生成的詭異、未知形象，完美契合了孩子們突破常規(guī)、探索邊界的本能沖動(dòng)。二是單調(diào)生活需要情緒出口。在“學(xué)校—家庭”兩點(diǎn)一線的固化生活中，帶有“暗黑”元素的虛擬內(nèi)容能提供一種安全可控的感官刺激，類似體驗(yàn)“鬼屋”的興奮。三是強(qiáng)烈的社交歸屬壓力。當(dāng)某種內(nèi)容成為同齡人中的“社交貨幣”，不了解就意味著被孤立，促使孩子主動(dòng)接觸以融入群體。四是對(duì)“力量感”的隱性渴望?，F(xiàn)實(shí)中常處于被管理的青少年，容易向往虛擬角色所具有的顛覆性掌控力。

　　“加之社會(huì)閱歷淺、批判思維尚未成熟，他們更易被強(qiáng)烈、怪誕的視覺形象俘獲注意力，而難以理性辨識(shí)其背后的扭曲價(jià)值觀?！辟Z昕娜補(bǔ)充，從教育心理的角度看，長期接觸這類內(nèi)容對(duì)青少年注意力、邏輯思維、審美偏好和暴力認(rèn)知會(huì)產(chǎn)生多維度的負(fù)面影響。

　　賈昕娜表示，低俗AI內(nèi)容如“數(shù)字污染”般侵蝕青少年心智，會(huì)造成多層面危害：首先是注意力碎片化。高強(qiáng)度感官刺激的“電子快餐”使大腦習(xí)慣于即時(shí)滿足，導(dǎo)致對(duì)需要深度思考的學(xué)習(xí)活動(dòng)產(chǎn)生排斥。其次是邏輯思維退化?；靵y荒誕的內(nèi)容削弱青少年辨別真?zhèn)?、建立因果認(rèn)知的能力。此外，還會(huì)導(dǎo)致審美趣味扭曲。怪異低俗的視覺形象拉低審美基準(zhǔn)，使其對(duì)經(jīng)典藝術(shù)與自然之美逐漸麻木。

　　為此，賈昕娜呼吁廣大的教育者和家長，幫助孩子建立新的網(wǎng)絡(luò)生活習(xí)慣。首先要幫孩子建立健康的內(nèi)容消費(fèi)習(xí)慣，就像教他們辨別變質(zhì)食物一樣學(xué)會(huì)篩選信息；其次要培養(yǎng)辨別媒介的本質(zhì)，讓孩子明白“AI生成≠真實(shí)”，學(xué)會(huì)用批判性思維看待網(wǎng)絡(luò)內(nèi)容。最重要的是保持開放的親子溝通，當(dāng)孩子接觸到不良內(nèi)容時(shí)，用方法引導(dǎo)代替簡單禁止，讓孩子在安全的環(huán)境中建立對(duì)美的認(rèn)知和對(duì)暴力的警惕。

　　為AI魔改“畫出”紅線：技術(shù)如何向善？

　　AI魔改動(dòng)畫視頻之所以大量傳播并流行，一方面是因?yàn)锳I技術(shù)大幅降低了制作門檻，任何人只需輸入幾個(gè)關(guān)鍵詞，就能快速生成一段動(dòng)畫；另一方面，部分平臺(tái)在算法推薦上“推波助瀾”，孩子一旦點(diǎn)擊，系統(tǒng)就會(huì)持續(xù)推送同類內(nèi)容，形成“信息繭房”，讓家長防不勝防。

　　對(duì)此，記者就技術(shù)層面咨詢了中國科學(xué)院自動(dòng)化研究所研究員董晶。她介紹，當(dāng)前，低俗AI內(nèi)容的生成主要依賴于開源擴(kuò)散模型、簡易人像合成工具與一鍵式視頻平臺(tái)。其“低門檻”體現(xiàn)于三方面：成本極低，消費(fèi)級(jí)顯卡即可運(yùn)行；技能要求近乎為零，用戶僅需輸入文字即可批量生成；獲取與迭代極快，網(wǎng)絡(luò)上有大量免費(fèi)資源和教程，使“技術(shù)小白”也能迅速成為內(nèi)容生產(chǎn)者。

　　董晶表示，技術(shù)門檻的迅速降低帶來了顯著的社會(huì)隱患。青少年易被此類獵奇、扭曲的視覺內(nèi)容吸引，不僅影響其價(jià)值觀形成，也削弱文化認(rèn)同。此類問題核心不在于技術(shù)本身，而在于缺乏有效約束的價(jià)值取向與監(jiān)管機(jī)制。

　　董晶及其科研團(tuán)隊(duì)長期從事視覺可控生成、人像合成與鑒偽、多模態(tài)內(nèi)容安全等研究，開發(fā)的偽造檢測(cè)與溯源平臺(tái)也已在多個(gè)行業(yè)應(yīng)用。

　　她強(qiáng)調(diào)，目前人工智能生成內(nèi)容（AIGC）檢測(cè)與治理正面臨雙重挑戰(zhàn)。技術(shù)上，生成內(nèi)容愈發(fā)逼真且不斷引入對(duì)抗性處理，傳統(tǒng)辨別真假的方法效果減弱。生態(tài)上，內(nèi)容經(jīng)多次傳播與加工后缺乏可信元數(shù)據(jù)記錄，導(dǎo)致溯源困難。同時(shí)，海量審核需平衡準(zhǔn)確性與效率，過度過濾易引發(fā)爭議。

　　“最后我想強(qiáng)調(diào)，技術(shù)問題終須依靠技術(shù)手段解決，但呵護(hù)孩子們的成長更需要法律、平臺(tái)責(zé)任與公眾意識(shí)的協(xié)同。作為科研人員，我們希望通過持續(xù)的技術(shù)創(chuàng)新，筑牢這第一道防線，讓技術(shù)真正用于啟迪智慧、傳承文化?！倍дf。