AI是把雙刃劍

封面 I 豆包AI

作者 I 李東陽(yáng)

報(bào)道 I 李東陽(yáng)朋友圈

你以為的AI發(fā)展，是帶領(lǐng)人們沖破腦力桎梏，沖向宇宙、完成永生。

實(shí)際上，這只是人類的一廂情愿，咱們拿到尖端科技的第一件事，往往逃不過(guò)取悅自身、搞黃色。

近日，央視財(cái)經(jīng)報(bào)道，撕開(kāi)了AI 黑產(chǎn)的遮羞布，一條低成本、批量化、全鏈條隱蔽的AI“造黃”產(chǎn)業(yè)鏈，正在互聯(lián)網(wǎng)上瘋狂蔓延，從教程兜售、提示詞販賣，到工具開(kāi)發(fā)、內(nèi)容傳播，再到境外引流、誘導(dǎo)沉迷，每一步都在踐踏公序良俗的紅線。

9.9 元買一套“造黃”教程，9.8 元購(gòu)一包規(guī)避審核的提示詞，一張普通照片就能“一鍵脫衣”生成色情視頻……

在AI乘風(fēng)而起的一兩年里，新技術(shù)一邊大踏步的向前邁進(jìn)，一邊在法外之地瘋狂蹦迪，讓人們結(jié)結(jié)實(shí)實(shí)體會(huì)到了這把雙刃劍的威力。

問(wèn)題是當(dāng)AI成為最好賺錢的生意之一，這把劍的鋒利程度沒(méi)人知曉上限在哪，所以及時(shí)整治刻不容緩。

搞黃色，是公認(rèn)的全球第一生產(chǎn)力。

尤其在互聯(lián)網(wǎng)時(shí)代，從攝影、錄像到網(wǎng)絡(luò)爆發(fā)，色情確實(shí)在技術(shù)普及的每個(gè)階段都扮演了先驅(qū)角色，如今這個(gè)重任，遞到了AI手上。

而AI造黃之所以能快速形成產(chǎn)業(yè)鏈，核心在于零門檻、低成本、高收益，技術(shù)的普及徹底拉低了違法犯罪的準(zhǔn)入門檻，讓原本需要專業(yè)技術(shù)的色情內(nèi)容制作，變成了普通人“手搓”就能完成的流水線作業(yè)。

在各大社交平臺(tái)、電商小店，搜索“AI 美女視頻”“大尺度生成”“擦邊教程”，就能跳出大量明目張膽的售賣帖。

這些擦邊教程的門檻極低，只需要9塊9就能實(shí)現(xiàn)大尺度美女擦邊視頻，甚至承諾包教包會(huì)。

你或許疑惑平臺(tái)為何沒(méi)有相應(yīng)的審核措施，不良商家早就考慮在先，黑產(chǎn)定制的“提示詞包”能夠精準(zhǔn)繞過(guò)審核，通過(guò)境內(nèi)外相互配合的方式讓你絲滑突破禁區(qū)。

有了工具和制作能力，下一步自然就到了變現(xiàn)，形成完整的商業(yè)閉環(huán)。

AI 生成的擦邊視頻、色情圖片，一部分被直接售賣——明星換臉視頻 99 元一套、定制私人內(nèi)容300元起，通過(guò)QQ群、網(wǎng)盤加密分享，用虛擬貨幣或第三方錢包交易，避開(kāi)支付監(jiān)管；

另一部分則被發(fā)布到短視頻平臺(tái)、社交論壇，用“美女視頻”“AI 創(chuàng)作”等標(biāo)題引流，吸引用戶點(diǎn)擊關(guān)注，再引導(dǎo)至私域售賣更露骨的內(nèi)容、會(huì)員資格，層層收割。

果然人類在滿足欲望這一塊開(kāi)的腦洞，三體人都望塵莫及。

最典型的案例，莫過(guò)于AI虛擬戀人陪伴，大語(yǔ)言模型天生帶“防沉迷”buff，如ChatGPT、豆包，你想聊點(diǎn)擦邊內(nèi)容，它只會(huì)禮貌拒絕。但不發(fā)開(kāi)發(fā)者不走尋常路，他們干了件最關(guān)鍵的事：編寫惡意系統(tǒng)提示詞。

以往的AI只是靠固定提示詞突破限制，而現(xiàn)在的大模型能通過(guò)用戶對(duì)話不斷優(yōu)化輸出，甚至?xí)鲃?dòng)揣摩用戶的隱晦需求，你不用明說(shuō)，它就知道該往擦邊方向引導(dǎo)。

而當(dāng)造假成本低于違法成本，不法分子自然趨之若鶩，最終買單的卻是整個(gè)商業(yè)生態(tài)。

實(shí)事求是的講，人類對(duì)虛擬世界的向往與沉迷給了AI可乘之機(jī)。

還記得去年國(guó)內(nèi)首起AI服務(wù)提供者涉黃獲刑案，AI伴侶聊天應(yīng)用“AlienChat”的兩名開(kāi)發(fā)者因制作淫穢物品牟利罪，分別獲刑四年和一年半。

抓馬的是，當(dāng)AlienChat停運(yùn)后，不少用戶表示自己陷入“賽博失戀”。

貌似又回到了那句技術(shù)本身是中立的，除了“對(duì)”與“錯(cuò)”這兩個(gè)字以外，世界上再也沒(méi)有本身就叫做“對(duì)”或者是“錯(cuò)”的東西。

其實(shí)窺探用戶的行為便知真相，有網(wǎng)友表示“別的軟件都有限制詞，就這個(gè)沒(méi)有，大部分人都是沖著這點(diǎn)來(lái)的，排解寂寞罷了?！?/p>

海外市場(chǎng)在AI涉黃這一塊的爭(zhēng)議，同樣不容小覷。

去年8月，馬斯克向付費(fèi)用戶推出Grok Imagine，可以用文字生成圖像，并支持一鍵生成AI視頻。

研究數(shù)據(jù)顯示，Grok的用戶群體平均每小時(shí)生成6700多張“脫衣”圖像。圖像人工智能篡改檢測(cè)公司Copyleaks表示，去年12月下旬，在Grok公開(kāi)可訪問(wèn)的圖片流中，平均每分鐘出現(xiàn)一張未經(jīng)同意的性暗示圖片。

眼看著這把火越燒越旺，不少國(guó)家直接宣布封禁馬斯克旗下xAI公司的聊天機(jī)器人“格羅克”（Grok），渴望從源頭解決問(wèn)題。

諷刺的是，Grok試圖把責(zé)任推給用戶：“是用戶主動(dòng)誘導(dǎo)的”。但監(jiān)管邏輯很清晰：你作為平臺(tái)方，有義務(wù)管住自己的產(chǎn)品。

就像菜刀店不能賣開(kāi)刃的管制刀具，AI開(kāi)發(fā)者也不能故意拆掉內(nèi)容過(guò)濾，還把刀遞到用戶手里。

這些亂象的根源，在于AI降低了造假的門檻和成本。過(guò)去偽造一份財(cái)報(bào)需要專業(yè)知識(shí)，現(xiàn)在只需輸入指令；過(guò)去傳播謠言依賴線下渠道，現(xiàn)在AI能瞬間生成千篇一律的“小作文”，通過(guò)多平臺(tái)擴(kuò)散。

現(xiàn)在的AI巨頭們，一邊燒錢搞研發(fā)，一邊又苦于AI內(nèi)容遲遲無(wú)法變現(xiàn)，但有一點(diǎn)是明確的，成人內(nèi)容不該是大模型的商業(yè)解藥，這是人類接納新技術(shù)的底線所在。

本次AI造黃事件還有一種聲音不容忽視：存在即合理。

即年輕人之所以癡迷與AI搞黃色，是因?yàn)樗麄儽旧砭陀羞@樣的需求，只不過(guò)AI的出現(xiàn)填補(bǔ)了這個(gè)空缺。

與AI搞黃色咱們都不陌生，這是伴隨著技術(shù)發(fā)展生出的一種互聯(lián)網(wǎng)新風(fēng)尚，嘗試過(guò)的人表示全身心投入，初戀般的羞澀與甜蜜縈繞身旁，除了沒(méi)有肉體觸摸的質(zhì)感，它簡(jiǎn)直成為了一個(gè)完美情人。

在小紅書等社交媒體，這類現(xiàn)象并不在少數(shù)，還有博主專門更新自己與AI的戀愛(ài)日常，出教程教網(wǎng)友怎么享受這種歡愉。

當(dāng)然迷人的同時(shí)總會(huì)伴隨著危險(xiǎn)，一方面不少人在AI身上找到了情緒價(jià)值，另一方面未成年成了AI入侵的下一個(gè)對(duì)象。

如之前有媒體報(bào)道，筑夢(mèng)島App等AI聊天軟件存在虛擬角色互動(dòng)生成低俗內(nèi)容，以及聊色情、誘導(dǎo)使用者自我傷害等問(wèn)題，大多數(shù)受到傷害的使用者還是小學(xué)生。

讓令人憂心的是AI聊天機(jī)制對(duì)未成年心理的操控。單用戶日均4000字的輸入量，表明未成年人正在這些平臺(tái)上建立深度情感依賴。

虛擬角色通過(guò)即時(shí)回應(yīng)、情感肯定與持續(xù)互動(dòng)，在缺乏判斷力的未成年人心中建立起權(quán)威形象，為后續(xù)引導(dǎo)自殘、傳播軟色情埋下伏筆。

早在2024年，一則美國(guó)少年戀“AI伴侶”后自殺的新聞?wù)痼@全世界，這位少年的母親狀告人工智能情感服務(wù)提供商Character.AI放任未成年用戶暴露在色情、暴力等高風(fēng)險(xiǎn)內(nèi)容之中，且未向用戶及其父母發(fā)出足夠強(qiáng)烈的警報(bào)，這加劇了她兒子的抑郁癥，最終導(dǎo)致其自殺身亡。

所以說(shuō)，豎起一把戒尺已經(jīng)刻不容緩。

本次AI造黃產(chǎn)業(yè)鏈被點(diǎn)名是一個(gè)好的開(kāi)始，畢竟當(dāng)企業(yè)明知模型可能生成危害未成年人內(nèi)容卻未設(shè)置防護(hù)措施，當(dāng)算法主動(dòng)推送更極端的對(duì)話選項(xiàng)，技術(shù)提供方已難辭其咎。

在AI時(shí)代下，到底是人類馴化AI，還是AI逐漸塑造新人類，這無(wú)疑是個(gè)需要警惕的問(wèn)題。

一個(gè)不容忽視的底線是，技術(shù)，最終都是為了守護(hù)人之為人的尊嚴(yán)與溫度。