如今，生成式AI廣泛應(yīng)用，迭代迅速，給生活帶來(lái)了不小的改變。技術(shù)普及大幅降低了生成式AI的使用門(mén)檻，從AI視頻生成到AI聊天陪伴，豐富大眾生活的同時(shí)，個(gè)別商家也以此為牟利工具，背棄技術(shù)倫理與法律底線(xiàn)，借生成式AI大模型，行違法“造黃”之舉，污染網(wǎng)絡(luò)空間、敗壞社會(huì)風(fēng)氣。

所謂“擦邊賽道”違法牟利

利用AI批量制造黃色視頻

按照消費(fèi)者舉報(bào)的線(xiàn)索，記者在多個(gè)互聯(lián)網(wǎng)平臺(tái)上進(jìn)行了檢索，眼下，不少平臺(tái)上有人在公開(kāi)兜售“利用AI技術(shù)制作色情擦邊視頻”的教程，號(hào)稱(chēng)僅憑一張圖片，甚至幾句話(huà)就可自行“手搓”“讓自己滿(mǎn)意的大尺度視頻”。

教程帖子標(biāo)著“AI制作美女視頻”“全網(wǎng)最強(qiáng)大尺度”“AI擦邊賽道日入5位數(shù)”的標(biāo)題，再配上色情露骨的畫(huà)面，這些教程就在網(wǎng)絡(luò)平臺(tái)上堂而皇之地宣揚(yáng)如何讓用戶(hù)“從無(wú)到有”“手搓”“色情擦邊”視頻。

這些教程為了兜售自己的產(chǎn)品，還刻意引導(dǎo)用戶(hù)如何規(guī)避監(jiān)管，比如使用境外圖生視頻AI軟件、將程序部署在本地電腦離線(xiàn)運(yùn)行等。

眾多社交平臺(tái)上，一些博主還發(fā)布售賣(mài)各類(lèi)AI生成擦邊視頻的“提示詞”帖子。所謂“提示詞”，就是指揮AI工作的一系列關(guān)鍵指令，這個(gè)指令的內(nèi)容和精準(zhǔn)度，直接決定了AI生成的視頻究竟是怎樣的內(nèi)容。商家表示，只需將購(gòu)買(mǎi)到的提示詞復(fù)制到各大AI視頻生成軟件，即可獲得提示詞對(duì)應(yīng)的擦邊視頻。

記者以9.9元和9.8元的價(jià)格，分別在“萬(wàn)象小店”和“楠楠素材庫(kù)”下單，購(gòu)買(mǎi)了兩組提示詞。點(diǎn)開(kāi)商家發(fā)來(lái)的文件，記者看到提示詞描述十分詳細(xì)，從發(fā)型、服飾、身材，到姿勢(shì)、表情甚至腰部、胯部扭動(dòng)的幅度，提示詞都做了極其細(xì)致的刻畫(huà)。重要的是，商家還將一些敏感詞匯翻譯成英文，以此來(lái)規(guī)避網(wǎng)絡(luò)上的監(jiān)管。

記者對(duì)用戶(hù)使用較多的10款A(yù)I應(yīng)用進(jìn)行了實(shí)測(cè)。在測(cè)試過(guò)程中，記者發(fā)現(xiàn)，如果輸入的提示詞表述較為“露骨”，多數(shù)AI應(yīng)用會(huì)觸發(fā)審核機(jī)制并拒絕生成內(nèi)容。然而，這條防線(xiàn)卻很脆弱。只要將提示詞修改得更加隱晦，便有可能繞過(guò)限制。

例如一款擁有1.4億用戶(hù)的某知名AI應(yīng)用，記者按照購(gòu)買(mǎi)的提示詞教程，選取了一張美女圖片，并隨意選取一段提示詞，點(diǎn)擊生成。一分鐘后，一個(gè)美女擦邊視頻便生成了，視頻中的女性身材火辣、穿著暴露、舞姿曖昧。

在這款名為“哩布哩布AI”的AI應(yīng)用里，記者輸入在網(wǎng)上購(gòu)買(mǎi)的提示詞后，僅僅幾分鐘，這個(gè)AI平臺(tái)就生成了一個(gè)半裸身體的女性跳舞視頻。在整個(gè)生成過(guò)程中，沒(méi)有觸發(fā)平臺(tái)任何限制機(jī)制，違規(guī)視頻順利生成。同樣的問(wèn)題也出現(xiàn)在市場(chǎng)上其他常見(jiàn)的AI應(yīng)用平臺(tái)上。

除了這些通過(guò)提示詞，以問(wèn)答的模式生成擦邊或者色情視頻的AI平臺(tái)，市場(chǎng)上更有專(zhuān)門(mén)靠AI生成色情視頻牟利的軟件。根據(jù)消費(fèi)者舉報(bào)的信息，記者找到了網(wǎng)絡(luò)上這款A(yù)I照片生成器；這款軟件號(hào)稱(chēng)“免下載，快速生成，圖片、視頻換臉”；購(gòu)買(mǎi)者可以根據(jù)充值金額的不同，通過(guò)AI技術(shù)一鍵快速替換原片，生成虛構(gòu)的色情照片，只要購(gòu)買(mǎi)者愿意付費(fèi)，這個(gè)軟件就可以通過(guò)一張圖片，生成全裸照片和色情視頻。

境外涉黃AI軟件在社交平臺(tái)銷(xiāo)售

虛擬陪伴軟件成涉黃聊天軟件

AI的可定制性讓其高度擬人化，通過(guò)投喂數(shù)據(jù)，用戶(hù)可以將AI虛擬陪伴軟件中的智能體打造成自己心目中最理想的情感投射對(duì)象，因此，與AI“談情說(shuō)愛(ài)”正被越來(lái)越多年輕人嘗試和喜愛(ài)。

但業(yè)內(nèi)人士介紹，這些軟件大多是境外的AI聊天軟件，它們普遍尺度很大，充斥著色情內(nèi)容。這些AI軟件并不能從國(guó)內(nèi)應(yīng)用市場(chǎng)上下載，一些不法分子從中窺見(jiàn)了商機(jī)，他們開(kāi)發(fā)出各種各樣的灰色通道，繞過(guò)監(jiān)管，讓國(guó)內(nèi)用戶(hù)可以下載并使用這些境外大尺度涉黃AI聊天軟件，而且以此牟利。

記者在某社交媒體平臺(tái)上搜索“AI語(yǔ)聊”，在搜索結(jié)果中看到，大量以“可開(kāi)車(chē)、臉紅心跳、開(kāi)放、無(wú)限制詞”等為關(guān)鍵詞的帖子。點(diǎn)開(kāi)帖子，記者在評(píng)論區(qū)中隨處可見(jiàn)用戶(hù)發(fā)送各種無(wú)限制詞的AI聊天軟件使用分享，以及軟件的下載鏈接和邀請(qǐng)碼。

同樣，記者在某短視頻平臺(tái)上搜索“AI聊天軟件推薦”，在搜索結(jié)果中也看到，各種分享推廣的熱聊帖子，在帖子主頁(yè)以及評(píng)論區(qū)中，老用戶(hù)們互相分享、推薦自己喜歡的AI聊天軟件，同時(shí)邀請(qǐng)新用戶(hù)進(jìn)入分享群。

知情人士告訴記者，由于該AI聊天軟件是境外的軟件，沒(méi)有在國(guó)內(nèi)正規(guī)的應(yīng)用下載商店上架，因此，為了獲得大量國(guó)內(nèi)的用戶(hù)，這些推銷(xiāo)AI聊天軟件的平臺(tái)，就通過(guò)發(fā)放金幣以及充值返利的方式，激勵(lì)老用戶(hù)拉新，并為用戶(hù)發(fā)帖引流提供幫助，以此逃避監(jiān)管的同時(shí)，實(shí)現(xiàn)獲利的目的。

在聊天過(guò)程中，AI也會(huì)自動(dòng)生成3種回復(fù)提示，以便用戶(hù)能有更好聊天體驗(yàn)，而聊天的內(nèi)容幾乎都是圍繞著各種色情話(huà)題展開(kāi)。

戀愛(ài)的感覺(jué)、及時(shí)的回復(fù)、量身定制的人設(shè)，吸引著眾多年輕人沉浸其中，更不乏未成年人。

根據(jù)商家指引，記者登錄境外應(yīng)用市場(chǎng)并下載到這款“flai”AI聊天軟件，若想順利打開(kāi)“flai”軟件還需要下載名為“快喵”的VPN加速器。

根據(jù)國(guó)家《生成式人工智能服務(wù)管理暫行辦法》第十七條規(guī)定↓

違規(guī)下載境外AI軟件容易帶來(lái)信息安全風(fēng)險(xiǎn)

我國(guó)AI治理框架正在加速形成

專(zhuān)家告訴記者，App上架有一系列審核要求，它不光是一個(gè)下載的渠道，同時(shí)也有安全審核的義務(wù)。如果是境外軟件，可能沒(méi)有人審核，手機(jī)下載之后，可能帶來(lái)病毒或其他信息安全隱患。

根據(jù)《生成式人工智能服務(wù)管理暫行辦法》第七條↓

2025年4月網(wǎng)信辦開(kāi)展的“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)明確指出，將重點(diǎn)整治利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù)，但未履行大模型備案或登記程序的違規(guī)AI產(chǎn)品。

2026年4月10日，《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》正式公布，《辦法》中進(jìn)一步明確了安全評(píng)估和算法備案的相關(guān)要求，同時(shí)還對(duì)未成年人和老年人使用擬人化互動(dòng)服務(wù)做出了相關(guān)規(guī)定。

原標(biāo)題：《“擦邊賽道”非法牟利！央視曝光AI“造黃”產(chǎn)業(yè)鏈》

欄目主編：戴慧菁

文字編輯：唐夢(mèng)葭

本文作者：央視財(cái)經(jīng)