以下文章來源于風(fēng)聲OPINION，作者朱光星

朱光星

中國政法大學(xué)副教授

近日，央視財經(jīng)《財經(jīng)調(diào)查》曝光了一條借助生成式人工智能迅速蔓延的“造黃”黑色產(chǎn)業(yè)鏈。不法分子公然售賣“教程+提示詞+生成軟件”的套餐，用戶只需提供一張照片、輸入幾句指令，就能批量制造色情、擦邊視頻或圖片等。

盡管《生成式人工智能服務(wù)管理暫行辦法》第四條明確規(guī)定，生成式人工智能服務(wù)不得生成淫穢色情等內(nèi)容，但用戶通過將敏感詞替換為英文或者修改為隱晦表達，或者下載境外軟件、本地離線部署等手段，便能輕易繞過監(jiān)管審查，低成本、規(guī)�；厣梢x圖片與視頻，實現(xiàn)高額非法牟利。

在這類AI造黃的違法犯罪中，有一類行為性質(zhì)尤為惡劣，那就是專門制作涉及兒童形象的淫穢圖片或視頻等。之所以要將其單獨拎出來討論，不僅因為其社會危害性遠高于一般色情內(nèi)容，更因為它在法律規(guī)制上面臨一個特殊的理論難題：當(dāng)色情內(nèi)容不涉及真實兒童時，刑法是否應(yīng)當(dāng)介入？

歐美社會如何應(yīng)對AI色情？

近年來，這一問題已成為西方國家立法和執(zhí)法關(guān)注的重中之重。

例如，隸屬于英國國家數(shù)據(jù)科學(xué)與人工智能研究院艾倫?圖靈研究所的“新興技術(shù)與安全中心”發(fā)布的一份《人工智能與嚴(yán)重網(wǎng)絡(luò)犯罪》的報告，多次提到網(wǎng)絡(luò)犯罪分子正越來越多地利用防護機制薄弱的開源權(quán)重模型實施更高級的犯罪活動，尤其是在利用AI生成兒童色情制品領(lǐng)域表現(xiàn)得尤為突出。

但對AI生成兒童色情相關(guān)行為的打擊，是隨著人們對技術(shù)認知的深化以及對違法行為危害性認識的提升而逐步凝聚成共識的。

域外國家近代以來普遍認為，兒童色情是一種嚴(yán)重侵害兒童個體人身權(quán)利與人格尊嚴(yán)的犯罪類型。兒童并非合適的性行為或性滿足對象, 任何描述兒童性行為、性展示或者性暗示的材料，本質(zhì)上都是對兒童的身體與性特征的物化，構(gòu)成對兒童的性剝削或者性虐待。

無論是否涉及身體暴力，無論兒童是否認識制作者，甚至無論材料是否為兒童自行制作，其中的兒童始終是性剝削與性虐待的受害者。這類材料將涉及兒童的性行為或性展示記錄下來, 未來有可能被反復(fù)傳播, 對兒童的健康成長和心理健康造成深遠的負面影響。

在傳統(tǒng)規(guī)制的理念中, 每一份兒童色情制品的制作都意味著有真實兒童遭受了實際侵害。禁止兒童色情制品的核心目的，就是要保護這些真實受害的兒童。因此，除了前期的制作行為, 持有、瀏覽、傳播等后續(xù)行為，因助長了整個兒童色情產(chǎn)業(yè)鏈的持續(xù)運作，也同樣受到刑法的嚴(yán)厲打擊。

基于這一邏輯,許多國家對兒童色情制品犯罪的傳統(tǒng)規(guī)制，通常會要求該色情制品必須涉及真實的兒童, 而對“虛擬兒童色情”是否需要予以犯罪化則缺少明確的標(biāo)準(zhǔn)。

然而，人工智能的崛起和普及對這一傳統(tǒng)規(guī)制理念構(gòu)成了根本性挑戰(zhàn)。AI生成的兒童色情圖片或視頻中，并沒有真正的兒童受害，僅僅是借用了兒童的形象而已，而完全由AI生成的虛擬兒童色情，則更是與真實的兒童毫無關(guān)聯(lián)。對此，少數(shù)刑法學(xué)者認為，這類行為就像歷史上的通奸、同性戀、賣淫等一樣，屬于“無被害人犯罪”，應(yīng)當(dāng)予以非罪化處置。

實踐中，部分虛擬兒童色情制品的創(chuàng)作者、消費者也辯稱, 利用人工智能生成虛擬兒童色情是一種合法的性幻想和技術(shù)實驗, 并未侵犯真實兒童，造成的危害不大。更有觀點進一步主張, 對不涉及真實兒童的色情制品進行過度規(guī)制，涉嫌侵犯公民的表達自由與藝術(shù)創(chuàng)作空間。

盡管有少數(shù)西方學(xué)者認為，AI生成的虛擬兒童色情，可以為戀童癖群體的性沖動提供一個可接受的替代宣泄途徑，從而可能減少現(xiàn)實中遭受性虐待的兒童數(shù)量。

但越來越多的研究顯示，長期接觸兒童色情制品會滋生對性侵兒童行為的脫敏，可能導(dǎo)致對更極端、更具虐待性的性侵兒童材料的偏好，削弱行為人內(nèi)心對虐待兒童的抑制力；而且，消費AI生成的虛擬兒童色情制品，可能會增加現(xiàn)實世界中接觸式性侵犯兒童犯罪的風(fēng)險。由此可見，兒童色情的虛擬化，并不等于無害化。

基于這一共識，近些年來西方越來越多的國家，逐步突破傳統(tǒng)規(guī)制中要求有真實兒童受害的要求，立法和司法對虛擬兒童色情犯罪的打擊力度顯著增強。

以英國為例，根據(jù)政府最近發(fā)布的一份政策說明文件，英國正在推動一部新的改革法案，擬將專門用于生成兒童色情素材的優(yōu)化人工智能模型列為非法；并將新增罪名，將改造、持有、提供或兜售兒童色情圖片生成工具均規(guī)定為違法，最高可判處五年監(jiān)禁刑。

該法案還將對之前關(guān)于戀童癖的立法規(guī)定進行修改，將AI生成的虛擬兒童色情材料也納入規(guī)制范疇，使其與真實的兒童色情適用同一法律標(biāo)準(zhǔn)。再如，荷蘭在2023年通過對原有刑法做擴大解釋，將利用深度偽造技術(shù)制作和傳播性露骨內(nèi)容的行為也納入刑事處罰范圍。

需要說明的是，上述立法動向雖然主要針對兒童色情，但其背后反映的規(guī)制邏輯對于一般性的AI造黃行為同樣具有借鑒意義，即不再要求色情內(nèi)容必須對應(yīng)真實受害者，而是直接打擊AI生成行為本身。

“造黃”產(chǎn)業(yè)：技術(shù)中立不是放任的借口

那么，我國法律對AI生成色情內(nèi)容（包括但不限于兒童色情）是如何應(yīng)對的？

我國雖然沒有專門針對AI生成色情內(nèi)容的新立法動向，但現(xiàn)行刑法對淫穢物品已有嚴(yán)格管控。《中華人民共和國刑法》第363、364條規(guī)定有“制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪”和“傳播淫穢物品罪”等罪名。

AI為違法犯罪分子帶來極大便利、降低其違法犯罪成本的同時，也因內(nèi)容的生產(chǎn)自動化、規(guī)模化以及違法收益與傳播速度成倍放大，使得越來越多的普通人更容易觸犯刑法。

以淫穢視頻為例，過去制作淫穢視頻需要拍攝、剪輯、后期等專業(yè)能力，周期長、門檻高、風(fēng)險大；如今，任何人只要購買廉價提示詞，復(fù)制粘貼即可驅(qū)動AI自動生成高清視頻；只要輕微變換表述，便能輕易突破審核攔截；只要使用境外模型，就能隱匿行蹤、逃避打擊。

AI的普及，使得違法犯罪行為從“專業(yè)化作案”降級為“大眾化復(fù)制”，普通網(wǎng)民甚至是未成年人都可能被卷入其中。

央視調(diào)查顯示，AI“造黃”早已不是個人零散行為，而是形成了分工嚴(yán)密、上下游協(xié)同、全鏈條牟利的黑色產(chǎn)業(yè)體系：上游有人專門編寫、販賣涉黃提示詞與規(guī)避教程；中游有人提供破解模型、境外軟件、離線運行工具；下游有人批量生成、多平臺分發(fā)、引流變現(xiàn)。每一環(huán)都只做“一小段”，每一方都可能以“技術(shù)中立”為自己開脫。

由此，便引出了一個核心的法律難題：在鏈條化、分布式、去中心的AI犯罪面前，究竟誰該承擔(dān)刑事責(zé)任？

提示詞販賣者不直接生成視頻，模型提供者不參與內(nèi)容發(fā)布，平臺方不控制具體用戶行為。傳統(tǒng)刑法以“直接實行行為人”為中心的追責(zé)模式在此陷入困局：直接打擊使用者，治標(biāo)不治本；放任上游工具提供者，則黑產(chǎn)屢打不絕；擴大平臺責(zé)任，又可能傷及技術(shù)創(chuàng)新。如何精準(zhǔn)識別、合理分配、依法追責(zé)，是我國刑法在AI時代必須回答的考題。

此次曝光，更是暴露出平臺治理的明顯短板。許多AI工具號稱設(shè)有內(nèi)容審核與安全護欄，但實踐中卻形同虛設(shè)——簡單修改表述、切換英文指令、更換接口來源，即可輕易繞過限制。

長期以來，“技術(shù)中立”成為不少平臺自我免責(zé)的通行說辭。然而，技術(shù)中立從來不是絕對的，更不是無限的。當(dāng)平臺明知其服務(wù)被大規(guī)模用于“造黃”，當(dāng)平臺具備技術(shù)能力卻故意不采取必要防控措施，并有意從流量、用戶、使用量中持續(xù)獲利，所謂“技術(shù)中立”的辯解，實際上是放任違法犯罪的借口。

面對AI“造黃”這條黑色產(chǎn)業(yè)鏈，刑法的態(tài)度不宜簡單滑向“重刑擴罪”或“技術(shù)放任”兩個極端。真正的難題在于，如何在保護技術(shù)創(chuàng)新空間的同時，將法律責(zé)任精準(zhǔn)落到每一個關(guān)鍵環(huán)節(jié)——提示詞的販賣者、模型的提供者、離線部署工具的傳播者，以及明知黑產(chǎn)卻消極放任的平臺方，各自應(yīng)當(dāng)承擔(dān)怎樣的刑事責(zé)任？目前，無論是立法，還是司法，都缺乏清晰、可操作的答案。

與其反復(fù)強調(diào)“技術(shù)向善”這類原則，不如盡快啟動針對性研究，明確AI生成違法內(nèi)容場景下的入罪邊界、共同犯罪認定標(biāo)準(zhǔn)、平臺的安全保障義務(wù)邊界，以及跨境技術(shù)犯罪的管轄與取證規(guī)則等諸多問題。

法律只有真正讀懂了技術(shù)邏輯，才能穿透黑產(chǎn)鏈條，讓躲在“技術(shù)中立”背后的責(zé)任主體無處遁形。

文章轉(zhuǎn)載自“風(fēng)聲OPINION”公眾號，原文標(biāo)題為《法治理想國｜AI“涉黃”，平臺應(yīng)該負多大責(zé)任？》。本文所載內(nèi)容來源于互聯(lián)網(wǎng)等公開渠道，我們對文中觀點持中立態(tài)度，僅供讀者參考、交流。轉(zhuǎn)載的稿件版權(quán)歸原作者和機構(gòu)所有，如有侵權(quán)，請聯(lián)系我們刪除。

??

Serving national strategies, focusing on university research and the transformation of scientific and technological achievements