□中國婦女報全媒體特約撰稿王海媚

　　近日，美國企業(yè)家埃隆·馬斯克旗下的人工智能聊天機器人“格羅克”被爆出存在深度偽造失控問題。其圖像編輯功能允許用戶通過提示語來創(chuàng)建圖片和視頻，導(dǎo)致深度偽造的色情內(nèi)容泛濫，主要受害者為女性，其中也包括未成年人。由于“格羅克”生成圖像是公開可見的，所以很容易造成大范圍散播。這一事件引發(fā)了英國、法國等多國政府和國際社會的譴責(zé)與限制措施。

　　目前，“格羅克”在X平臺上的圖像生成和編輯功能變更為僅向平臺付費用戶開放，但在“格羅克”應(yīng)用程序和官網(wǎng)上仍可免費使用該功能?？梢哉f，隨著大模型技術(shù)的快速迭代，人工智能生成深度偽造內(nèi)容并被濫用的風(fēng)險日益凸顯，其背后隱含的性別不平等問題，也成為全球性別治理中難以回避的新挑戰(zhàn)。

　　技術(shù)濫用的性別指向

　　從表面來看，“格羅克”事件說明社交媒體平臺存在內(nèi)容審核失靈與技術(shù)安全監(jiān)管不足等問題。從更深層次來看，其核心問題不僅是“是否生成了違規(guī)內(nèi)容”，而在于人工智能技術(shù)如何在既有的社會結(jié)構(gòu)中被用于再生產(chǎn)和放大性別不平等，從而對女性和兒童這些特定群體造成傷害。

　　人工智能取證組織對2025年12月25日至2026年1月1日期間“格羅克”生成的2萬多張圖片和用戶發(fā)出的5萬次請求進行調(diào)查發(fā)現(xiàn)，53%的圖片包含衣著暴露的人像，其中81%為女性；根據(jù)谷歌Gemini模型的判定，2%的圖像中出現(xiàn)的人物看起來年齡在18歲或以下。這說明該事件中的深度偽造呈現(xiàn)出明顯的性別指向性，而非隨機傷害。

　　由此可見，利用人工智能深度偽造針對女性的色情內(nèi)容，本質(zhì)上是技術(shù)加持的性別暴力行為，即“利用信息通信技術(shù)或其他數(shù)字工具實施、協(xié)助、加劇或放大的，導(dǎo)致或可能導(dǎo)致身體、性、心理、社會、政治或經(jīng)濟損害，或其他侵犯權(quán)利和自由的行為”。目前，技術(shù)加持的性別暴力已發(fā)展至較大規(guī)模，據(jù)2025年的調(diào)查數(shù)據(jù)，全球范圍內(nèi)有38%的女性親身經(jīng)歷過網(wǎng)絡(luò)暴力，85%的女性目睹過其他女性遭受網(wǎng)絡(luò)暴力，且該暴力行為仍在持續(xù)加劇中。

　　難以消除的復(fù)合傷害

　　與傳統(tǒng)影像作假不同，深度偽造依托大模型技術(shù)能夠?qū)崿F(xiàn)低門檻、高仿真、大規(guī)模的生產(chǎn)和復(fù)制，使針對女性的非自愿的性暴露在短時間內(nèi)擴散至全球網(wǎng)絡(luò)空間。而虛假信息和錯誤信息在多種媒體渠道能夠相互“印證”，助長深度偽造內(nèi)容傳播。例如，合成型深度偽造內(nèi)容可能包含多篇人工智能生成的新聞報道以及照片、視頻和社交媒體評論，即使信息本身是虛假的，也能在網(wǎng)絡(luò)上獲得廣泛傳播，并影響現(xiàn)實世界的敘事。

　　從個人層面來看，深度偽造的受害者往往難以溯源和維權(quán)，他們的名譽、個人隱私、職業(yè)發(fā)展和社會關(guān)系都可能遭受長期甚至不可逆的損害。更為隱蔽的是，這些深度偽造的內(nèi)容往往裹挾著性羞辱與道德評判，迫使受害者陷入沉默，從而進一步加劇性別不平等。對未成年人來說，深度偽造帶來的負面影響更為嚴重，人工智能生成的虛假圖像模糊了現(xiàn)實與虛擬的界限，給未成年人造成的身心傷害難以通過簡單刪除內(nèi)容來消除。此外，深度偽造帶來的暴力傷害使女性處于性別、年齡、技術(shù)鴻溝、制度缺位、社會文化、經(jīng)濟地位和心理健康等多重不利處境，這種交叉性與脆弱性使深度偽造的危害遠超算法歧視、模型濫用等單一技術(shù)風(fēng)險。

　　從社會層面來看，深度偽造的色情內(nèi)容強化了性別角色，固化了有害的性別刻板印象，挑戰(zhàn)了現(xiàn)有法律在證據(jù)認定和責(zé)任追究方面的能力，同時也增加了司法與社會治理成本。

　　平臺治理的倫理缺失

　　針對國際社會對“格羅克”事件的報道與譴責(zé)，馬斯克的回應(yīng)是：“不知道‘格羅克’生成過任何未成年人裸照。絕對沒有。”“顯然，‘格羅克’不會自發(fā)生成圖像，它只會根據(jù)用戶請求生成圖像?！边@也顯示出了其對深度偽造帶來的性別暴力行為的冷漠態(tài)度。實際上，關(guān)于“科技公司是否要為用戶在人工智能平臺上發(fā)布的內(nèi)容承擔(dān)責(zé)任”這個問題正面臨激烈的討論與博弈。目前，國際社會的共識正在由“平臺免責(zé)為主”向“平臺負有積極治理責(zé)任”轉(zhuǎn)變，尤其是在人工智能生成內(nèi)容、深度偽造和性別暴力領(lǐng)域。

　　平臺不對所有內(nèi)容負責(zé)，而是對“可預(yù)見的AI風(fēng)險”負有責(zé)任，是當(dāng)前國際社會的主流立場，比如，經(jīng)合組織通過的《人工智能原則》強調(diào)：“人工智能參與者應(yīng)當(dāng)根據(jù)其所承擔(dān)的角色、具體應(yīng)用情境及其采取行動的能力，在人工智能系統(tǒng)生命周期的各個階段持續(xù)采用系統(tǒng)性的風(fēng)險管理方法……相關(guān)風(fēng)險包括但不限于有害偏見，以及涉及人權(quán)（包括安全、保障與隱私）、勞動權(quán)利和知識產(chǎn)權(quán)等?！?/p>

　　然而，“格羅克”平臺顯然沒有對“可預(yù)見的AI風(fēng)險”負起責(zé)任，其生成的深度偽造色情內(nèi)容，并非技術(shù)失靈，而是管理失責(zé)。不僅如此，包括平臺主動降低或放松內(nèi)容安全閾值，比如設(shè)置“熱辣模式”允許生成成人內(nèi)容；對真實人物，尤其是女性和未成年人的保護不足；缺乏有效的事前限制、事中審查與事后糾正機制等。這一系列事件揭示的并非個別企業(yè)的管理問題，而是世界范圍內(nèi)的共性問題——如果忽視性別平等因素，人工智能技術(shù)將會復(fù)制甚至放大現(xiàn)實中的性別歧視并對女性造成暴力傷害，這也是全球性別治理需要關(guān)注的焦點。

　　全球協(xié)同的破題之路

　　目前，國際社會對于深度偽造失控的反應(yīng)呈現(xiàn)出一定的共性特征：將問題從平臺自律層面上升為公共安全與人權(quán)議題，強調(diào)企業(yè)的法律責(zé)任；在人工智能評估和審查中納入性別分析視角，明確指出深度偽造生成的色情內(nèi)容對女性和未成年人造成不同程度的傷害；對“技術(shù)中立”“商業(yè)創(chuàng)新優(yōu)先”等敘事保持警惕，強調(diào)社會責(zé)任與倫理不應(yīng)被市場邏輯取代。英國、歐盟等已經(jīng)在法律、監(jiān)管、技術(shù)和社會層面開展相關(guān)工作，比如通過立法將未經(jīng)同意生成或傳播私密圖像定性為刑事犯罪；要求平臺承擔(dān)事前防范責(zé)任；推動深度偽造內(nèi)容標識、限制高風(fēng)險功能、加強模型安全評估；通過公眾教育提升民眾對于性別平等和人工智能倫理的認識。

　　此外，有國家已經(jīng)開展了使用人工智能技術(shù)治理深度偽造的行動。比如，利用聊天機器人為用戶實時提供報告性暴力、如何保存法醫(yī)證據(jù)等支持服務(wù)，以及利用人工智能識別和監(jiān)測技術(shù)加持的性別暴力。法國已經(jīng)開始使用“數(shù)字保鏢”來過濾針對體育明星的網(wǎng)絡(luò)仇恨言論，研究人員正在開發(fā)相關(guān)算法，用于識別、干預(yù)并預(yù)防技術(shù)加持的針對婦女和女童的暴力。

　　全球婦女事業(yè)實現(xiàn)高質(zhì)量發(fā)展，必定需要安全、平等、無歧視和包容的社會環(huán)境，因此，全球性別治理應(yīng)該高度重視消除技術(shù)加持的性別暴力，特別是深度偽造。這既是技術(shù)問題，也是價值選擇問題。只有將性別平等、人權(quán)保護和公共責(zé)任納入全球性別治理框架，人工智能才能真正服務(wù)于社會進步，而非成為新的風(fēng)險源頭。

　　（作者系北京大學(xué)國際關(guān)系學(xué)院《國際政治研究》編輯、博士）