近日，央視曝光“AI涉黃”產(chǎn)業(yè)鏈，報(bào)道提到，在一款名為哩布哩布AI的AI應(yīng)用里，記者輸入在網(wǎng)上購(gòu)買(mǎi)的提示詞后，僅僅幾分鐘，這個(gè)AI平臺(tái)就生成了一個(gè)半裸身體的女性跳舞視頻。

在整個(gè)生成過(guò)程中，沒(méi)有觸發(fā)平臺(tái)任何限制機(jī)制。

4月14日，哩布哩布AI發(fā)布 關(guān)于加強(qiáng)內(nèi)容安全管理的說(shuō)明，經(jīng)排查平臺(tái)存在生成不符合規(guī)范內(nèi)容的情況，已在第一時(shí)間完成技術(shù)修復(fù)，并對(duì)風(fēng)險(xiǎn)路徑進(jìn)行全面封堵。

天眼查App顯示，哩布哩布AI關(guān)聯(lián)公司北京奇點(diǎn)星宇科技有限公司成立于2023年5月。公司融資歷程顯示，從2023年至2025年，已獲得源碼資本、高榕創(chuàng)投、金沙江創(chuàng)投、明勢(shì)創(chuàng)投、巨人網(wǎng)絡(luò)等多家基金的投資。

官網(wǎng)稱(chēng)，截至2024年5月，哩布哩布AI已經(jīng)積累了近1000萬(wàn)專(zhuān)業(yè)的Al圖像創(chuàng)作者，用戶(hù)量位居國(guó)內(nèi)第一，在國(guó)內(nèi)“Al文生圖賽道融資額TOP1”，多家頂級(jí)風(fēng)險(xiǎn)投資機(jī)構(gòu)聯(lián)合參與，總金額達(dá)數(shù)億人民幣。

記者在幾大應(yīng)用市場(chǎng)檢索發(fā)現(xiàn)，該應(yīng)用目前仍可以正常下載。

律師：AI服務(wù)提供者

不能以“技術(shù)中立”逃避管理義務(wù)

今年年初，“AI服務(wù)涉黃第一案”曾一度引發(fā)社會(huì)關(guān)注。

有律師表示，AI服務(wù)提供者對(duì)模型輸出內(nèi)容具有實(shí)質(zhì)性控制能力時(shí)，不能以“技術(shù)中立”逃避內(nèi)容管理義務(wù)，提示詞設(shè)計(jì)與安全機(jī)制建設(shè)將成為合規(guī)關(guān)鍵。本案明確AI生成淫穢內(nèi)容的制作責(zé)任歸屬，為同類(lèi)案件提供裁判參考，強(qiáng)化“技術(shù)越界必?fù)?dān)責(zé)”的司法導(dǎo)向。生成式AI應(yīng)用必須嵌入內(nèi)容審核、倫理對(duì)齊機(jī)制，避免因提示詞漏洞或模型失控觸碰法律紅線(xiàn)。

2025年4月，國(guó)家網(wǎng)信辦開(kāi)展的“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)明確指出，將重點(diǎn)整治利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù)，但未履行大模型備案或登記程序的違規(guī)AI產(chǎn)品。

2026年4月10日，《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》正式公布，《辦法》中進(jìn)一步明確了安全評(píng)估和算法備案的相關(guān)要求，同時(shí)還對(duì)未成年人和老年人使用擬人化互動(dòng)服務(wù)做出了相關(guān)規(guī)定。

來(lái)源：界面新聞、央視財(cái)經(jīng)、冀時(shí)、中青評(píng)論等。