不是AI變壞了，而是“壞人”學(xué)會了用AI

4月14日消息，昨日，“央視財經(jīng)”曝光一條完整的AI“造黃”黑色產(chǎn)業(yè)鏈。只需一張普通照片、幾句隱晦“提示詞”，幾分鐘即可生成大尺度視頻，最低成本僅9.9元。

這條產(chǎn)業(yè)鏈分工明確：有人兜售教程和提示詞，有人開發(fā)專用軟件，有人通過社交平臺批量引流。商家將敏感詞翻譯成英文寫入提示詞，引導(dǎo)用戶使用境外AI工具或本地離線部署，以此繞過平臺審核。

“央視財經(jīng)”記者實測發(fā)現(xiàn)，在擁有1.4億用戶的某知名AI應(yīng)用中，輸入購買的提示詞后，幾分鐘即生成半裸女性跳舞視頻，全程未觸發(fā)任何限制。“哩布哩布AI”等平臺同樣存在漏洞。一款號稱“免下載、快速換臉”的軟件，可根據(jù)付費(fèi)金額生成全裸照片和色情視頻。

境外AI聊天軟件成為另一重災(zāi)區(qū)。“Dady”“flai”等虛擬陪伴軟件通過灰色通道流入國內(nèi)，以“可開車、無限制詞”為賣點，聊天內(nèi)容幾乎圍繞色情話題展開。這些軟件通過“拉新返利”機(jī)制裂變擴(kuò)張，老用戶發(fā)帖引流可獲金幣和充值返利，評論區(qū)隨處可見下載鏈接和邀請碼。

知情人士透露，推銷平臺刻意繞過監(jiān)管，瞄準(zhǔn)未成年人群體。今年4月10日公布的《人工智能擬人化互動服務(wù)管理暫行辦法》已明確安全評估和算法備案要求。2025年4月網(wǎng)信辦“清朗”專項行動將未履行備案的違規(guī)AI產(chǎn)品列為重點整治對象。

專家指出，境外軟件缺乏安全審核，下載后可能帶來病毒或信息安全隱患。央視評論稱，這不是AI變壞了，而是“壞人”學(xué)會了用AI�！叭杖胛逦粩�(shù)”的暴利驅(qū)動下，AI造黃正從個案演變?yōu)楣I(yè)化犯罪。

消息釋出后，有網(wǎng)友評論：“AI絕不能帶病“裸奔”，或“先污染后治理”。更有網(wǎng)友呼吁：”AI治理刻不容緩！“”科技進(jìn)步的同時，監(jiān)管一定要跟上！“”加強(qiáng)管理，不要毀了未來，任何新東西的誕生都是雙面的 有好有壞，就看自己怎么用。“”嚴(yán)厲打擊！“