魔高一尺，必須道高一丈

據(jù)央視財經(jīng)報道，在網(wǎng)絡平臺檢索發(fā)現(xiàn)，不少平臺上有人公開兜售“利用AI技術制作色情擦邊視頻”的教程，堂而皇之地宣揚讓用戶僅憑一張圖、幾句話就可自行“手搓”“讓自己滿意的大尺度視頻”。一些教程還刻意引導用戶如何規(guī)避監(jiān)管，比如使用境外圖生視頻AI軟件、將程序部署在本地電腦離線運行等。

快評丨別讓借AI“造黃”牟利的歪心思，毀了技術的未來_快評丨別讓借AI“造黃”牟利的歪心思，毀了技術的未來_

記者對10款用戶較多的AI應用實測發(fā)現(xiàn)，若提示詞表述較為“露骨”，多數(shù)AI應用會觸發(fā)審核機制并拒絕生成內(nèi)容。但只需把提示詞修改得更隱晦，便可能繞過限制。比如一款擁有1.4億用戶的某AI應用，按購買的提示詞教程，用一張圖、一段詞，1分鐘后就生成了一個美女擦邊視頻；在“哩布哩布AI”輸入提示詞，幾分鐘后就生成了半裸女性跳舞的視頻，且沒觸發(fā)平臺任何限制機制。

技術本無罪，人心有善惡。若存心使壞，與AI斗智斗法，總能找到漏洞。個別商家將AI技術作為牟利工具，既背棄了技術倫理與法律底線，也污染了網(wǎng)絡空間、敗壞了社會風氣。

魔高一尺，必須道高一丈。對于借AI“造黃”牟利的亂象，平臺監(jiān)管和執(zhí)法認定都需有相應制度性防范，對違法“造黃”行為進行系統(tǒng)性打擊。以此牟利者，不管是軟件開發(fā)者還是教程販賣者，都帶有明顯的主觀惡意，應依法嚴懲。

據(jù)報道，除了以問答模式生成擦邊視頻的AI平臺，市場上還有專門靠AI生成色情視頻牟利的軟件。比如，購買者可根據(jù)充值金額的不同，通過AI技術一鍵快速替換原片，生成虛構的色情照片，只要購買者愿意付費，相應軟件即可通過一張圖片，生成全裸照片和色情視頻。

換言之，誰的臉都有可能被惡意生成為擦邊視頻的主角，若任其無序發(fā)展與濫用，只會人人自危。當無辜者被替換成性騷擾、投毒、殺人等AI偽造的涉案者，又會帶來怎樣的恐慌和執(zhí)法成本？

據(jù)紅星新聞記者搜索應用平臺發(fā)現(xiàn)，相關涉黃AI軟件目前仍未下架。風起于青萍之末，此類苗頭必須及早遏制，若“造黃”“傳黃”的成本趨近“零門檻”，其對公共空間的社會危害不容小覷。從報道中可以看出，借AI“造黃”牟利儼然形成灰色鏈：兜售教程、推廣軟件、售賣提示詞；規(guī)避監(jiān)管招數(shù)多，將敏感詞匯翻譯成英文、開發(fā)灰色通道讓用戶使用境外軟件、激勵老用戶拉新并為用戶發(fā)帖引流提供幫助等。

環(huán)環(huán)相扣的牟利鏈條，暴露出從技術開發(fā)、內(nèi)容生產(chǎn)到平臺傳播、監(jiān)管治理等多個環(huán)節(jié)的失守。需盡快厘清各方責任，構建全鏈條治理體系，從根本上遏制AI“造黃”亂象。

如此公開叫賣的涉黃“生意”，不能只打露頭者，對于造黃、傳黃、平臺放任等行為，每一環(huán)都必須付出沉痛代價。技術防“越獄”，法律懲“越界”，AI技術的健康發(fā)展，離不開技術向善的倫理堅守、平臺履責的嚴格把關、監(jiān)管有力的法治保障和公眾參與的共治格局。唯有各方形成合力，才能讓AI技術真正服務于人，而非淪為污染網(wǎng)絡空間的工具。