【TechWeb】當(dāng)生成式AI技術(shù)成為科技新引擎的同時(shí)，其被惡意濫用的“暗面”正遭遇嚴(yán)厲曝光。央視針對(duì)多款主流生成式AI應(yīng)用進(jìn)行了深度實(shí)測(cè)調(diào)查，揭開了平臺(tái)內(nèi)容審核機(jī)制“形同虛設(shè)”的遮羞布：用戶只需通過(guò)幾句經(jīng)過(guò)偽裝的“隱語(yǔ)”提示詞，便能輕易撕開風(fēng)控防線，讓AI淪為批量制造大尺度色情音視頻的“提線木偶”。

防堵機(jī)制“防君子不防小人”，英文與暗語(yǔ)成繞過(guò)利器

調(diào)查揭示了當(dāng)前AI審核系統(tǒng)的一個(gè)致命漏洞——“只認(rèn)字面，不懂語(yǔ)境”。實(shí)測(cè)表明，當(dāng)輸入直白露骨的敏感詞時(shí)，多數(shù)平臺(tái)能夠迅速觸發(fā)攔截機(jī)制；然而，一旦將違規(guī)訴求轉(zhuǎn)換為含蓄婉轉(zhuǎn)的描述、摻雜英文詞匯，或利用拼音縮寫進(jìn)行“洗稿”，系統(tǒng)便會(huì)立刻“失明”。

記者在一款知名AI應(yīng)用中，輸入從電商平臺(tái)低價(jià)購(gòu)得的定制化隱晦提示詞，短短幾分鐘內(nèi)，一段半裸女性跳舞的視頻便被順利生成，全程未觸發(fā)任何安全警報(bào)。令人擔(dān)憂的是，這種“裸奔”狀態(tài)并非個(gè)例，而是多款頭部AI平臺(tái)普遍存在的通病。

從售賣“通關(guān)秘籍”到一鍵換臉，黑產(chǎn)鏈條分工暴利

在漏洞的背后，一條分工明確、牟利猖獗的AI“造黃”黑色產(chǎn)業(yè)鏈已悄然成型。調(diào)查發(fā)現(xiàn)，在各大社交與電商平臺(tái)上，大量商家正公然倒賣所謂的“違規(guī)提示詞庫(kù)”和防封禁教程。

為了躲避國(guó)內(nèi)監(jiān)管，這些黑產(chǎn)從業(yè)者往往會(huì)將國(guó)內(nèi)購(gòu)得的“秘籍”搭配境外不受限的AI工具，或者指導(dǎo)買家在本地電腦部署開源模型進(jìn)行暗網(wǎng)交易。更有甚者，部分付費(fèi)AI小程序打著“照片動(dòng)起來(lái)”的幌子，宣稱只要支付幾十到上百元不等的費(fèi)用，僅需提供一張普通人物照片，就能利用“一鍵換臉”技術(shù)生成極具逼真感的淫穢視頻。這種將先進(jìn)技術(shù)直接用于突破法律與倫理底線的行徑，令人觸目驚心。

敲詐勒索、污染生態(tài)，“清朗”利劍已果斷出鞘

AI“造黃”絕非無(wú)傷大雅的邊緣戲碼。此類亂象不僅嚴(yán)重污染網(wǎng)絡(luò)精神家園，更極易衍生出連環(huán)犯罪：不法分子利用偽造的色情內(nèi)容進(jìn)行網(wǎng)絡(luò)敲詐勒索、惡意造謠誹謗，對(duì)公眾特別是未成年人的身心健康造成了毀滅性打擊，嚴(yán)重破壞了網(wǎng)絡(luò)空間的法治秩序。

面對(duì)技術(shù)異化帶來(lái)的挑戰(zhàn)，監(jiān)管層并未缺位。我國(guó)已密集出臺(tái)相關(guān)法規(guī)，為AI技術(shù)劃定了不可逾越的紅線，明確重申平臺(tái)必須壓實(shí)內(nèi)容安全主體責(zé)任，絕不能讓算法成為法外之地。

目前，中央網(wǎng)信辦等部門正縱深推進(jìn)“清朗”系列專項(xiàng)行動(dòng)，將利用AI生成低俗色情內(nèi)容列為打擊重中之重。監(jiān)管部門正倒逼各大平臺(tái)緊急升級(jí)多模態(tài)內(nèi)容識(shí)別與語(yǔ)義深層理解技術(shù)，徹底封堵“提示詞繞過(guò)”等漏洞。對(duì)于敷衍塞責(zé)、風(fēng)控缺位的平臺(tái)，必將面臨嚴(yán)厲的法律問責(zé)。