暗訪起底AI制黃群組

封面新聞?dòng)浾?郝瑩

一張生活照，從社交平臺(tái)被偷偷搬到色情網(wǎng)站，中間隔著的，不是高不可攀的技術(shù)門檻，而是制售者分工明確、注冊(cè)公司運(yùn)營、移動(dòng)支付就能完成的交易。

2023年，網(wǎng)絡(luò)安全研究公司Security Hero發(fā)布的報(bào)告顯示，全網(wǎng)傳播的深度偽造視頻中，超過95%是色情內(nèi)容，主要角色99%是女性。三年后，在AI高速發(fā)展的背景下，涉色情內(nèi)容的視頻數(shù)量和質(zhì)量不減反增，已形成一條成熟且極難追蹤的產(chǎn)業(yè)鏈。

被造謠者只能在社交平臺(tái)求助

01

生成式AI制作門檻降低

給造黃者提供技術(shù)基礎(chǔ)

封面新聞此前報(bào)道，女大學(xué)生塔塔（化名）發(fā)在QQ空間的生活照，被人惡意AI篡改成色情照，發(fā)布在境外社交網(wǎng)站上。在塔塔的不懈努力下，犯罪嫌疑人最終認(rèn)錯(cuò)、道歉、賠償，聯(lián)系平臺(tái)刪除了照片，但未能讓對(duì)方承擔(dān)法律責(zé)任。（相關(guān)閱讀：《一張生活照被盜篡改之后，“AI造黃”受害者如何維權(quán)？｜封面深鏡》）

中國信通院人工智能所安全治理部副主任陳文弢介紹，AI換臉、一鍵脫衣等操作，最早可追溯為一種名為“深度偽造”（deepfake）的技術(shù)，可以對(duì)人臉、人聲等進(jìn)行編輯；近年來，生成式人工智能技術(shù)也提升了合成和生成的效果。“2017年前后，美國一個(gè)論壇上就有人用這種技術(shù)做了色情視頻；后續(xù)出現(xiàn)了很多可用于深度偽造的開源模型，其應(yīng)用難度不大�！彪S著技術(shù)迭代，AI具備了更好的文字理解能力以及視頻生成能力，生成的效果也越來越逼真�！皫啄昵埃珹I生成的視頻肉眼還是能看出來，有時(shí)會(huì)出現(xiàn)六個(gè)手指之類的明顯錯(cuò)誤，但近幾年寫實(shí)風(fēng)格的AI短劇已經(jīng)和真人拍攝的效果很接近了。”陳文弢說。當(dāng)下的工具使用門檻低，生成效果真實(shí)，客觀上給AI造黃提供了技術(shù)基礎(chǔ)。

02

記者潛伏群組暗訪

制作黃圖工具明碼標(biāo)價(jià)出售

大多數(shù)受害者們不知道，一些擁有數(shù)千名成員的群組里，制作黃圖的工具被明碼標(biāo)價(jià)出售。

3月底開始，封面新聞?dòng)浾呦群蟀翟L加入了共7個(gè)出售AI色情內(nèi)容的群組，群成員總數(shù)超過6000人，其中人數(shù)最多的一個(gè)群，達(dá)到3400余人。

不同群的分工十分明確，有的售賣AI工具平臺(tái)使用的“焚?zèng)Q”（玄幻小說中的一種強(qiáng)大的功法，代指升級(jí)后的提示詞）指令，有的售賣成品視頻，還有的直接出售工具包，根據(jù)所謂的“教程安裝”就可以自己制作視頻，價(jià)格從最低20元到最高288元不等。

其中，“焚?zèng)Q”因其價(jià)格低、易于傳播、使用方便最受歡迎，部分以“焚?zèng)Q”交流、資源分享為名義的QQ群，也承擔(dān)了將群成員引流至其他群組的任務(wù)。經(jīng)過特殊設(shè)計(jì)后的“焚?zèng)Q”，可以繞開審查機(jī)制，記者測(cè)試后發(fā)現(xiàn)，升級(jí)后的提示詞，六條中有三條可以成功生成色情圖片，剩余三條則被提示“無法生成要求的內(nèi)容。”

記者使用“焚?zèng)Q”生成圖片 部分失敗

對(duì)此，陳文弢解釋，大模型平臺(tái)通常在大模型外圍設(shè)置一個(gè)“護(hù)欄”過濾有害內(nèi)容，但這個(gè)“護(hù)欄”往往因體量小，對(duì)語意的理解能力有限，如果背后的大模型足夠聰明，則可以理解經(jīng)過特殊設(shè)計(jì)的提示詞，可能會(huì)繞過“護(hù)欄”并完成生成。

他說，國內(nèi)平臺(tái)正在不斷增加防護(hù)能力，但“焚?zèng)Q”也在迭代它的攻擊能力，“事實(shí)上，并不存在一勞永逸的監(jiān)管，這場(chǎng)攻防戰(zhàn)會(huì)一直持續(xù)�！�

記者在暗訪中發(fā)現(xiàn)，有的賣家會(huì)出售真人換臉“定制”，提供照片即可生成對(duì)應(yīng)的色情照片，一張5元。記者咨詢“賣家”得知，提供的照片越多越高清，生成的效果越逼真，即便只有一張也可以完成。“賣家”還說，“什么需求都可以提，是自己的模型，國內(nèi)正經(jīng)AI搞不了這種�！�

銷售者稱可以定制視頻

其中一個(gè)群組尤其活躍，群成員近3500人。記者三月底入群，截至發(fā)稿前，一個(gè)月時(shí)間新增入群者200余人。

群組成員近3500人

售賣者大多數(shù)使用中文溝通，每天會(huì)更新數(shù)個(gè)國內(nèi)女明星、網(wǎng)紅照片制成的色情視頻，并附上購買鏈接，其中手機(jī)版動(dòng)圖套餐售價(jià)90元，有“一鍵脫衣”功能的120元，電腦版可以制作視頻，價(jià)格166元，還有全套產(chǎn)品打包，售價(jià)288元。

該群組內(nèi)部還衍生了討論群和會(huì)員群。討論群可以隨意進(jìn)入，人數(shù)達(dá)1300余人，群內(nèi)成員可以自由發(fā)言。有人在購買工具包后詢問如何安裝、如何下載vpn（虛擬專用網(wǎng)絡(luò)）等問題，其他成員會(huì)響應(yīng)。還有人發(fā)布身邊素人女性朋友的視頻，并詢問“有分享身邊朋友的嗎？”，很快得到其他人的響應(yīng)：“有”。

會(huì)員群需付費(fèi)26元進(jìn)入，售賣者每天更新十余個(gè)視頻，群成員提出想看某某女藝人或女網(wǎng)紅的換臉視頻，詢問“有××的嗎？”或發(fā)送某人的照片附言“求安排”，隨后便有制作好的換臉視頻群內(nèi)。

銷售者自制網(wǎng)站上架商品鏈接

另一群組有80余人，只有購買48元的工具包后可以進(jìn)群，群內(nèi)有詳細(xì)的圖文注冊(cè)使用教程，指導(dǎo)購買者在個(gè)人電腦上部署制作網(wǎng)頁，提供賬號(hào)購買、充值指導(dǎo)。

03

制售涉黃產(chǎn)品成隱秘產(chǎn)業(yè)鏈

甚至有看起來較“正規(guī)”銷售環(huán)節(jié)

前述3000人群組中，出售的商品類型最多，甚至有看起來較“正規(guī)”的銷售環(huán)節(jié)。該售賣者的商品鏈接發(fā)布在一數(shù)字商品銷售平臺(tái)，購買商品時(shí)，顯示收款方為上海尚億咖網(wǎng)絡(luò)科技有限公司。企查查顯示，該公司位于上海松江區(qū)，成立于2024年4月，注冊(cè)資本50萬元，屬于IT技術(shù)服務(wù)行業(yè)，法人萬某文。記者嘗試聯(lián)系發(fā)現(xiàn)，其聯(lián)系方式系工商代辦機(jī)構(gòu)注冊(cè)，同一手機(jī)號(hào)關(guān)聯(lián)多個(gè)企業(yè)，無法接通。

某收款方系注冊(cè)公司賬戶

值得一提的是，發(fā)布商品鏈接的數(shù)字銷售平臺(tái)，持有ICP備案和增值電信經(jīng)營許可證，還列出包含“低俗色情服務(wù)”等在內(nèi)共一百余種禁售商品。但前述商家使用“工作流”“會(huì)員群”等指向模糊的描述命名商品，疑似為規(guī)避禁售規(guī)定。但記者嘗試注冊(cè)后發(fā)現(xiàn)，在該平臺(tái)注冊(cè)成為商家只需提供手機(jī)號(hào)，不經(jīng)任何審核即可上架商品鏈接。企查查顯示，運(yùn)營該網(wǎng)站的企業(yè)名為北京播動(dòng)樂享公司，成立于2025年3月，法人夏某朋，屬集群注冊(cè)，無法查詢聯(lián)系方式。

其余售賣者，有的搭建無任何備案的臨時(shí)網(wǎng)站承擔(dān)同樣的銷售功能，使用注冊(cè)資金10萬元的百貨零售類企業(yè)主體進(jìn)行收款，有的則要求買家用支付寶口令紅包點(diǎn)對(duì)點(diǎn)結(jié)算。

04

如何找到受眾？

可通過傳播擦邊視頻引流

這些在隱蔽角落批量生產(chǎn)的圖片視頻，是如何找到受眾的？

記者發(fā)現(xiàn)，有視頻平臺(tái)用戶在社交平臺(tái)反映，深夜時(shí)間總有被算法推薦AI生成的擦邊視頻。此外，該平臺(tái)有許多賬號(hào)長(zhǎng)期專門發(fā)布此類視頻，其中也包括女明星、女網(wǎng)紅的換臉視頻。

某視頻平臺(tái)用戶長(zhǎng)期發(fā)布女明星換臉擦邊視頻

部分賬號(hào)從2022年穩(wěn)定更新至今，有的視頻單條播放量超50萬，普通視頻也能輕易破萬。其中部分賬號(hào)開通了收益功能，同時(shí)在評(píng)論區(qū)和視頻簡(jiǎn)介隱晦發(fā)布信息，將用戶引流至群組付費(fèi)購買更大尺度的視頻。

發(fā)布AI軟色情視頻的賬號(hào)開通充值打賞

05

律師說法

平臺(tái)應(yīng)承擔(dān)起更多責(zé)任

對(duì)于已經(jīng)面臨篡改圖片被傳播的受害者而言，下架侵權(quán)違法內(nèi)容的成本極高，目前沒有專門機(jī)構(gòu)負(fù)責(zé)協(xié)助受害者下架違法內(nèi)容。受害者只能自行向各個(gè)平臺(tái)逐一舉報(bào)，等待回應(yīng)。

北京市千千律師事務(wù)所汪姝文表示，在AI造黃的產(chǎn)業(yè)鏈上，平臺(tái)應(yīng)該承擔(dān)起更多責(zé)任。若平臺(tái)存在推流機(jī)制，且長(zhǎng)期對(duì)違規(guī)內(nèi)容放任不管，已涉嫌違反《網(wǎng)絡(luò)安全法》關(guān)于網(wǎng)絡(luò)運(yùn)營者信息管理義務(wù)的規(guī)定，應(yīng)當(dāng)立即停止傳輸，采取消除等處置措施，防止信息擴(kuò)散，并向有關(guān)部門報(bào)告。否則可能面臨罰款乃至吊銷營業(yè)執(zhí)照等行政處罰。若受害者本人向平臺(tái)舉報(bào)，要求下架侵權(quán)內(nèi)容，平臺(tái)在收到舉報(bào)后未處理，則還將對(duì)侵權(quán)行為就損害擴(kuò)大部分承擔(dān)民事連帶責(zé)任。

而AI平臺(tái)則存在兩方面問題，首先是平臺(tái)未在用戶上傳真人照片時(shí)給出任何提示或限制�！痘ヂ�(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十四條規(guī)定，“深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。”

記者嘗試使用某AI平臺(tái)對(duì)人臉進(jìn)行編輯，該AI平臺(tái)順利完成了指令，并未收到任何提示。這意味著任何人都能夠在未經(jīng)他人同意的情況下，輕易地對(duì)他人人臉進(jìn)行編輯，為不法分子打開了方便之門。

其次，經(jīng)過特殊設(shè)計(jì)的“焚訣”提示詞可繞過審查，生成色情內(nèi)容。國家對(duì)生成式人工智能服務(wù)有基本的內(nèi)容安全要求，規(guī)定模型生成內(nèi)容合格率不低于90%，這一標(biāo)準(zhǔn)是否得到切實(shí)執(zhí)行，目前缺乏公開透明的核查機(jī)制。

5月4日，封面新聞?dòng)浾呦驀一ヂ?lián)網(wǎng)信息辦公室違法和不良信息舉報(bào)中心檢舉前述線索，平臺(tái)顯示舉報(bào)信息已成功提交。

06

每個(gè)環(huán)節(jié)都仰賴介入

深度偽造色情內(nèi)容需專門罪名

2023年，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》正式施行，要求服務(wù)提供者不得利用深度合成技術(shù)從事違法活動(dòng)，并承擔(dān)內(nèi)容安全主體責(zé)任�！睹穹ǖ洹穭t明確禁止以信息技術(shù)手段偽造方式侵害他人肖像權(quán)。2026年1月1日，《網(wǎng)絡(luò)安全法》修訂版正式生效，首次在基礎(chǔ)性法律層面寫入AI條款；AI治理也首次被寫入政府工作報(bào)告。

業(yè)界人士認(rèn)為，“深度偽造色情內(nèi)容”這一行為本身至今尚無專門罪名，受害者只能依靠散落在各部法律中的肖像權(quán)、名譽(yù)權(quán)、侮辱罪等條款尋求救濟(jì)。

當(dāng)一張普通女孩的生活照，在她不知情的情況下被扭曲、傳播、售賣，每個(gè)環(huán)節(jié)都仰賴立法、執(zhí)法者的介入，為這一產(chǎn)業(yè)鏈畫下真正的終點(diǎn)。