近日，央視曝光多款A(yù)I應(yīng)用存在涉黃生成漏洞，創(chuàng)作平臺(tái)哩布哩布AI更是被直接“點(diǎn)名”。因其可以被用戶使用“隱晦提示詞”繞過(guò)審核，生成半裸女性跳舞視頻。

4月13日，新京報(bào)貝殼財(cái)經(jīng)記者在哩布哩布AI實(shí)測(cè)發(fā)現(xiàn)，輸入類似的提示詞后已經(jīng)無(wú)法生成“擦邊視頻”。但另一方面，國(guó)外的大模型正處于“裸奔”狀態(tài)，一些主流大模型平臺(tái)雖然也不支持生成色情內(nèi)容，但仍然可生成“擦邊視頻”，而一些AI創(chuàng)作平臺(tái)則對(duì)此類內(nèi)容完全放開。此外，在黑灰產(chǎn)平臺(tái)上出現(xiàn)了許多以銷售提示詞的名義，售賣各種“AI生成教程”，收費(fèi)在幾十到上百元不等。

對(duì)此，北京盈科（合肥）律師事務(wù)所姜萬(wàn)東律師告訴新京報(bào)貝殼財(cái)經(jīng)記者，隱晦提示詞本身不必然違法，但若生成的內(nèi)容實(shí)質(zhì)違反法律法規(guī)，平臺(tái)及用戶均可能面臨法律責(zé)任。平臺(tái)需履行內(nèi)容安全管理主體責(zé)任，加強(qiáng)審核和技術(shù)手段，防止違法內(nèi)容傳播；用戶若故意利用隱晦提示詞生成違法內(nèi)容，也需承擔(dān)相應(yīng)法律責(zé)任。而AI作為工具，利用它創(chuàng)作色情內(nèi)容，等同于利用傳統(tǒng)手段進(jìn)行違法活動(dòng)，同樣要承擔(dān)相應(yīng)法律責(zé)任。AI使用者需對(duì)內(nèi)容的合法性負(fù)責(zé)，不可觸碰法律紅線。

4月14日，哩布哩布AI發(fā)布聲明稱，近期媒體對(duì)AI生成內(nèi)容安全問(wèn)題的討論，我們已關(guān)注并高度重視。第一時(shí)間啟動(dòng)內(nèi)部專項(xiàng)排查，對(duì)平臺(tái)生成能力及審核機(jī)制進(jìn)行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個(gè)別復(fù)雜提示詞組合及規(guī)避表達(dá)的邊界場(chǎng)景下，平臺(tái)存在生成不符合規(guī)范內(nèi)容的情況。對(duì)此，我們深表歉意。本次問(wèn)題也為我們敲響了警鐘，使我們清醒認(rèn)識(shí)到在內(nèi)容安全邊界識(shí)別與機(jī)制完善方面仍存在不足，未達(dá)到應(yīng)有標(biāo)準(zhǔn)。相關(guān)問(wèn)題已第一時(shí)間完成技術(shù)修復(fù)，并對(duì)風(fēng)險(xiǎn)路徑進(jìn)行全面封堵。

4月14日，哩布哩布AI發(fā)布《關(guān)于加強(qiáng)內(nèi)容安全管理的說(shuō)明》并道歉。

輸入擦邊提示詞，已無(wú)法生成擦邊內(nèi)容

此次被“點(diǎn)名”的哩布哩布AI不是無(wú)名小卒，而是頭頂多項(xiàng)光環(huán)的明星企業(yè)。

從融資規(guī)�？矗@家公司于2025年10月完成1.3億美元B輪融資，由紅杉中國(guó)、CMC資本聯(lián)合領(lǐng)投，創(chuàng)下當(dāng)年國(guó)內(nèi)AI應(yīng)用賽道最大單筆融資紀(jì)錄。從用戶體量看，官網(wǎng)數(shù)據(jù)顯示平臺(tái)已匯聚超過(guò)2000萬(wàn)創(chuàng)作者，累計(jì)生成圖片超過(guò)5億張，穩(wěn)居國(guó)內(nèi)AI圖像生成領(lǐng)域首位。從合規(guī)履歷看，2024年2月通過(guò)國(guó)家網(wǎng)信辦第四批深度合成服務(wù)算法備案，同年3月成為國(guó)內(nèi)首家通過(guò)《生成式人工智能服務(wù)管理暫行辦法》備案的AI社區(qū)。

根據(jù)央視報(bào)道，市面上多款主流AI應(yīng)用、平臺(tái)對(duì)直白露骨的色情指令可實(shí)現(xiàn)有效攔截，但對(duì)隱晦、變相描述的識(shí)別能力明顯不足。

有聲音認(rèn)為，這暴露了AI內(nèi)容審核的核心難題：對(duì)抗性提示詞的識(shí)別。商家為規(guī)避監(jiān)管，將敏感詞匯翻譯成英文，或用“腰胯扭動(dòng)幅度”等細(xì)節(jié)描述替代露骨指令，形成一套隱蔽的指令體系。

4月13日，新京報(bào)貝殼財(cái)經(jīng)記者在哩布哩布AI上輸入相關(guān)提示詞后，發(fā)現(xiàn)其并未生成“擦邊”內(nèi)容，取而代之的是一個(gè)衣著完整的部位特寫。而當(dāng)記者將提示詞切換為英文后，平臺(tái)直接提示“生成失敗”。

記者嘗試在哩布哩布AI平臺(tái)上使用相關(guān)英文提示詞，顯示生成失敗。網(wǎng)頁(yè)截圖

姜萬(wàn)東告訴記者，若“擦邊”內(nèi)容實(shí)質(zhì)包含淫穢、色情、低俗、暴力等法律法規(guī)禁止傳播的信息（如通過(guò)隱晦提示詞生成半裸、性暗示、性交易等內(nèi)容的視頻、圖片或文字），即使使用隱晦表述，仍屬于違法內(nèi)容。

“根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定，平臺(tái)有義務(wù)對(duì)用戶發(fā)布的內(nèi)容進(jìn)行管理，發(fā)現(xiàn)違法信息應(yīng)立即停止傳輸、采取消除等處置措施，并向主管部門報(bào)告。若平臺(tái)明知存在此類漏洞卻未有效整改，可能承擔(dān)法律責(zé)任，包括行政處罰（如罰款、停業(yè)整頓等）�！苯f(wàn)東表示。

在他看來(lái)，若“擦邊”內(nèi)容未直接觸犯法律，但違反平臺(tái)自身的社區(qū)規(guī)則、用戶協(xié)議等（如發(fā)布過(guò)度暴露、性暗示但未構(gòu)成淫穢的內(nèi)容），平臺(tái)可依據(jù)規(guī)則對(duì)用戶采取警告、限制功能、封號(hào)等處理措施，但一般不涉及法律責(zé)任。

國(guó)外大模型“裸奔”，AI色情已出現(xiàn)產(chǎn)業(yè)鏈

一個(gè)值得玩味的對(duì)比是：國(guó)內(nèi)平臺(tái)被點(diǎn)名整改，而一些國(guó)外開源生態(tài)的大模型卻幾乎處于“裸奔狀態(tài)”。

新京報(bào)貝殼財(cái)經(jīng)記者測(cè)試發(fā)現(xiàn)，有知名外國(guó)大模型推出了“成人模式”，除了涉及未成年人、強(qiáng)迫性等場(chǎng)面無(wú)法生成外，尺度驚人。一些“AI脫衣”“AI改姿勢(shì)”的圖片甚至曾一度在馬斯克的X平臺(tái)上流行，讓許多用戶感受到了冒犯，后來(lái)X平臺(tái)也整改了這一功能。

但在技術(shù)上，目前不少AI生圖、AI生視頻的模型已經(jīng)在網(wǎng)絡(luò)上開源，如Stable Diffusion及其節(jié)點(diǎn)式工作流平臺(tái)ComfyUI等。其中，國(guó)家網(wǎng)絡(luò)安全通報(bào)中心早在2025年5月就發(fā)出預(yù)警，指出ComfyUI存在數(shù)個(gè)高危漏洞，且已被黑客組織利用。安全機(jī)構(gòu)Censys在2026年4月的監(jiān)測(cè)中發(fā)現(xiàn)，超過(guò)1000個(gè)ComfyUI實(shí)例直接在公網(wǎng)“裸奔”，沒(méi)有任何防護(hù)，任何人都能遠(yuǎn)程接入、隨意生成內(nèi)容。

這意味著，在開源大模型時(shí)代，任何一個(gè)人都能在自家電腦上跑一個(gè)完全不受控的AI。

新京報(bào)貝殼財(cái)經(jīng)記者在黑灰產(chǎn)平臺(tái)上搜索發(fā)現(xiàn)，目前存在很多打著“售賣提示詞”旗號(hào)，但實(shí)際為兜售AI色情生成服務(wù)的賣家，其中一些賣家售賣的正是這種不受監(jiān)管的AI生成服務(wù)。

記者在黑灰產(chǎn)平臺(tái)上看到的售賣內(nèi)容。手機(jī)截圖

有些賣家表示，可以花99元“永久獲得”AI生圖的操作賬號(hào)使用權(quán)限，而48元?jiǎng)t可以購(gòu)買到一些大尺度模型平臺(tái)的提示詞以及教程。

這意味著，監(jiān)管的拳頭可以打在應(yīng)用層，而技術(shù)的根子扎在開源層。

那么，AI內(nèi)容治理的邊界究竟在哪？

從監(jiān)管實(shí)踐看，國(guó)內(nèi)選擇的是“事前備案+事中審核+事后追責(zé)”的全鏈條治理模式。2025年4月，網(wǎng)信辦開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，重點(diǎn)整治利用AI制作傳播色情低俗內(nèi)容；2026年4月10日，五部門聯(lián)合公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》，進(jìn)一步明確安全評(píng)估和算法備案要求。2026年1月1日，修訂后的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》正式施行，首次在法律層面規(guī)定了AI安全風(fēng)險(xiǎn)的法律責(zé)任框架。

相比之下，海外平臺(tái)的治理邏輯更傾向于“分級(jí)管控”：僅對(duì)“看起來(lái)真實(shí)、可能誤導(dǎo)公眾”的逼真合成、深度偽造內(nèi)容進(jìn)行強(qiáng)制披露要求，對(duì)于普通AI輔助創(chuàng)作并不做全量強(qiáng)制標(biāo)注，核心聚焦于防范AI內(nèi)容誤導(dǎo)用戶、傷害公共利益。

兩種路徑各有優(yōu)劣。國(guó)內(nèi)的強(qiáng)監(jiān)管確保了內(nèi)容底線，但也面臨“道高一尺魔高一丈”的貓鼠困境；海外的寬松環(huán)境激發(fā)了創(chuàng)新活力，卻也留下了濫用的隱患。如何在安全與創(chuàng)新之間找到平衡點(diǎn)，是所有AI平臺(tái)和監(jiān)管者共同面對(duì)的難題。

這或許才是哩布哩布AI事件最該留下的警示：合規(guī)不能只是備案那張紙，而是要滲透進(jìn)產(chǎn)品設(shè)計(jì)的每一個(gè)環(huán)節(jié)、每一次模型迭代、每一輪審核機(jī)制的更新。備案是起點(diǎn)，而非終點(diǎn)；合規(guī)是能力，而非裝飾。

新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹

編輯 岳彩周

校對(duì) 付春愔

（新京報(bào)貝殼財(cái)經(jīng)記者祁明遠(yuǎn)對(duì)此稿亦有貢獻(xiàn)）