2024年，聯(lián)合國(guó)兒童基金會(huì)估算有120萬(wàn)兒童遭遇性深偽內(nèi)容侵害。但真實(shí)數(shù)字可能更高——因?yàn)榇蠖鄶?shù)案件從未被公開(kāi)報(bào)道。

WIRED與數(shù)字 deception 研究機(jī)構(gòu)Indicator聯(lián)合追蹤發(fā)現(xiàn)，自2023年以來(lái)，全球至少90所學(xué)校、超過(guò)600名學(xué)生卷入深偽裸照事件。這還只是"被報(bào)道"的部分。

一、技術(shù)門檻崩塌：從專業(yè)工具到手機(jī)App

深偽技術(shù)進(jìn)入校園的路徑很清晰：Instagram或Snapchat上的日常照片，被下載后輸入"脫衣"應(yīng)用，幾秒鐘生成偽造裸照。

這類應(yīng)用的核心是生成式對(duì)抗網(wǎng)絡(luò)（Generative Adversarial Networks，一種讓兩個(gè)神經(jīng)網(wǎng)絡(luò)相互博弈的AI技術(shù)）。早期需要技術(shù)背景，現(xiàn)在完全不需要。

應(yīng)用商店里，它們偽裝成"照片編輯工具"或"AI換臉軟件"。有些按月訂閱收費(fèi)，有些按生成次數(shù)計(jì)費(fèi)。WIRED調(diào)查發(fā)現(xiàn)，頭部應(yīng)用的開(kāi)發(fā)者年收入可達(dá)數(shù)百萬(wàn)美元。

更隱蔽的是Telegram群組和Discord服務(wù)器。那里提供免費(fèi)或低價(jià)服務(wù)，用戶上傳照片后，機(jī)器人在后臺(tái)自動(dòng)處理。整個(gè)過(guò)程不需要懂任何技術(shù)術(shù)語(yǔ)。

加拿大兒童保護(hù)中心技術(shù)總監(jiān)Lloyd Richardson直言：「你很難找到一所完全沒(méi)受影響的學(xué)校?！?/p>

二、28國(guó)地圖：危機(jī)如何從北美蔓延至全球

WIRED與Indicator的聯(lián)合分析覆蓋了2023年以來(lái)的公開(kāi)報(bào)道，勾勒出一張令人不安的分布圖。

北美近30起案件。其中一起涉及60多名 alleged 受害者；另一起中，受害者反而被學(xué)校暫時(shí)開(kāi)除——因?yàn)樾７阶畛跽`以為是她本人拍攝了真實(shí)裸照。

南美超過(guò)10起，歐洲超過(guò)20起。澳大利亞與東亞合計(jì)約12起。28個(gè)國(guó)家，高中男生是最常見(jiàn)的施害者身份標(biāo)簽。

這些數(shù)字的詭異之處在于"公開(kāi)報(bào)道"的篩選條件。西班牙救助兒童會(huì)的調(diào)查顯示，五分之一年輕人表示深偽裸照曾被制作。美國(guó)民主與技術(shù)中心2024年校園調(diào)查發(fā)現(xiàn)，15%學(xué)生知道與學(xué)校相關(guān)的AI生成深偽內(nèi)容。

兒童保護(hù)組織Thorn的數(shù)據(jù)更具體：八分之一青少年認(rèn)識(shí)被 targeting 的人。

換算一下：如果一所高中有800名學(xué)生，按Thorn的比例，約100人直接知情。但登上新聞的，可能一例都沒(méi)有。

三、法律真空的尷尬：當(dāng)學(xué)校變成第一響應(yīng)者

報(bào)道揭示了一個(gè)結(jié)構(gòu)性困境：學(xué)校執(zhí)法人員往往沒(méi)有準(zhǔn)備應(yīng)對(duì)此類事件。

部分原因在于法律滯后。深偽內(nèi)容涉及未成年人，按定義屬于兒童性虐待材料（CSAM）。但"偽造"與"真實(shí)"的界限，讓執(zhí)法流程變得復(fù)雜。

美國(guó)部分州已立法將非自愿深偽內(nèi)容定為刑事犯罪，但聯(lián)邦層面缺乏統(tǒng)一標(biāo)準(zhǔn)。歐盟《人工智能法案》將深偽列為高風(fēng)險(xiǎn)應(yīng)用，但具體執(zhí)行細(xì)則仍在磨合。

更棘手的是跨境問(wèn)題。應(yīng)用開(kāi)發(fā)者可能在東歐，服務(wù)器在東南亞，受害者在美國(guó)，施害者是同班同學(xué)。哪個(gè)司法轄區(qū)優(yōu)先？

學(xué)校被迫填補(bǔ)空白。但校方通常沒(méi)有數(shù)字取證能力，也缺乏處理創(chuàng)傷事件的專業(yè)訓(xùn)練。那起"受害者被開(kāi)除"的案例，暴露出最糟糕的應(yīng)對(duì)：將技術(shù)濫用誤解為道德敗壞，對(duì)真實(shí)傷害做出二次懲罰。

四、商業(yè)鏈條解剖：誰(shuí)從120萬(wàn)受害兒童身上獲利

深偽應(yīng)用的商業(yè)模式值得單獨(dú)拆解。這不是地下黑客的業(yè)余項(xiàng)目，而是規(guī)模化運(yùn)營(yíng)的互聯(lián)網(wǎng)生意。

收入端：訂閱制（月費(fèi)10-50美元不等）、按次付費(fèi)（單張圖片2-10美元）、高級(jí)會(huì)員解鎖更高分辨率或視頻功能。

成本端：開(kāi)源模型降低研發(fā)門檻，云服務(wù)按量計(jì)費(fèi)，無(wú)需自建基礎(chǔ)設(shè)施。一個(gè)三人團(tuán)隊(duì)可以服務(wù)全球用戶。

獲客端：社交媒體暗流推廣，KOL（關(guān)鍵意見(jiàn)領(lǐng)袖）在Reddit和TikTok發(fā)布"測(cè)評(píng)"，SEO優(yōu)化讓"脫衣應(yīng)用"相關(guān)搜索指向自家產(chǎn)品。

支付端：加密貨幣、第三方支付處理器、甚至主流平臺(tái)的應(yīng)用內(nèi)購(gòu)買——層層嵌套切斷資金流向的可追溯性。

這套系統(tǒng)的設(shè)計(jì)目標(biāo)很明確：最大化轉(zhuǎn)化率，最小化法律責(zé)任。用戶協(xié)議里通常 buried 著"禁止用于非自愿內(nèi)容"的條款，但執(zhí)行層面毫無(wú)技術(shù)約束。上傳照片時(shí)不需要驗(yàn)證是否獲得本人同意，生成后也不會(huì)審核內(nèi)容。

當(dāng)120萬(wàn)兒童成為潛在"原材料"，這套商業(yè)模式的倫理底線在哪里？

五、平臺(tái)責(zé)任悖論：社交媒體如何成為幫兇

深偽鏈條的起點(diǎn)是Instagram和Snapchat上的公開(kāi)照片。這是整個(gè)事件中最諷刺的環(huán)節(jié)。

青少年在社交媒體上分享生活照，算法推薦系統(tǒng)放大曝光，這些照片成為深偽應(yīng)用的輸入素材。平臺(tái)的內(nèi)容審核機(jī)制針對(duì)的是已發(fā)布內(nèi)容，而非下載后的二次使用。

更深層的問(wèn)題是數(shù)據(jù)架構(gòu)。社交媒體的默認(rèn)設(shè)置傾向于公開(kāi)可見(jiàn)，因?yàn)?參與度"是核心指標(biāo)。隱私保護(hù)選項(xiàng)存在，但需要主動(dòng)尋找和配置——這對(duì)青少年用戶是顯著門檻。

當(dāng)深偽內(nèi)容生成后，傳播路徑往往回到這些平臺(tái)。WhatsApp群組、Snapchat的閱后即焚功能、Discord的私密服務(wù)器，都成為病毒式擴(kuò)散的管道。

平臺(tái)方的回應(yīng)通常是"禁止非自愿 intimate 圖像"的政策聲明，配合舉報(bào)后的下架機(jī)制。但這屬于事后補(bǔ)救，無(wú)法阻止首次生成。而首次生成造成的傷害往往是不可逆的——圖像可能已被保存、轉(zhuǎn)發(fā)、存檔。

技術(shù)層面的解決方案并非不存在。圖像溯源水印、生成內(nèi)容檢測(cè)工具、上傳前的來(lái)源驗(yàn)證——但這些功能與平臺(tái)的商業(yè)利益存在張力。更嚴(yán)格的驗(yàn)證意味著更高的使用門檻，可能降低 engagement 指標(biāo)。

六、受害者視角：為什么"假的"不等于"無(wú)害的"

一個(gè)常見(jiàn)的誤解需要澄清：深偽內(nèi)容是"假的"，所以傷害被夸大了。

WIRED報(bào)道中描述的受害者反應(yīng)直接反駁這一點(diǎn)：humiliated（羞辱）、violated（被侵犯）、hopeless（絕望）、scared the images will haunt them forever（恐懼圖像將永遠(yuǎn)糾纏）。

心理機(jī)制上，深偽攻擊同時(shí)觸發(fā)多重創(chuàng)傷。一是性化暴露的羞恥感，與真實(shí)裸照泄露無(wú)異；二是認(rèn)知失調(diào)——"那是我，但那不是我的身體"；三是失控感，無(wú)法預(yù)測(cè)圖像的傳播范圍和存續(xù)時(shí)間；四是信任崩塌，施害者往往是認(rèn)識(shí)的人。

對(duì)于未成年人，這些效應(yīng)被放大。青少年正處于身份認(rèn)同形成期，同伴評(píng)價(jià)權(quán)重極高。深偽內(nèi)容在學(xué)校的傳播速度，讓受害者沒(méi)有時(shí)間建立心理防御。

更隱蔽的長(zhǎng)期影響：數(shù)字足跡的永久性。即使原始內(nèi)容被刪除，存檔、截圖、備份可能持續(xù)存在。受害者需要面對(duì)"未來(lái)某時(shí)某刻被人發(fā)現(xiàn)"的不確定性。

這與傳統(tǒng)網(wǎng)絡(luò)霸凌的區(qū)別在于技術(shù)不對(duì)稱。施害者可以批量生成、匿名操作、跨平臺(tái)傳播；受害者則需要逐個(gè)平臺(tái)舉報(bào)、證明內(nèi)容偽造、應(yīng)對(duì)反復(fù)出現(xiàn)的變體。攻防成本完全不對(duì)等。

七、技術(shù)反擊的可能性與局限

針對(duì)深偽的檢測(cè)技術(shù)正在發(fā)展，但面臨根本性挑戰(zhàn)。

當(dāng)前主流方案分為兩類：一是分析圖像本身的偽造痕跡（不自然的紋理、光照不一致、壓縮偽影）；二是追溯內(nèi)容來(lái)源（水印、區(qū)塊鏈存證、設(shè)備指紋）。

前者的問(wèn)題是 arms race 性質(zhì)。生成模型快速迭代，檢測(cè)特征被針對(duì)性修復(fù)。2023年有效的檢測(cè)器，2024年可能失效。

后者的障礙在于生態(tài)協(xié)調(diào)。水印需要內(nèi)容平臺(tái)統(tǒng)一實(shí)施，區(qū)塊鏈需要行業(yè)聯(lián)盟，設(shè)備指紋需要硬件廠商配合。任何單一環(huán)節(jié)缺失，鏈條就斷裂。

更有希望的可能是"預(yù)防性"技術(shù)。例如，相機(jī)應(yīng)用內(nèi)置簽名功能，讓原始照片攜帶不可移除的來(lái)源證明。但這需要操作系統(tǒng)級(jí)別的支持，且對(duì)存量?jī)?nèi)容無(wú)效。

一個(gè)被低估的方向：降低生成技術(shù)的可用性。應(yīng)用商店審核、支付渠道封鎖、域名查封——這些"低技術(shù)"手段可能比AI檢測(cè)更有效。但執(zhí)行需要跨國(guó)協(xié)調(diào)，且與開(kāi)放互聯(lián)網(wǎng)的價(jià)值觀存在張力。

技術(shù)解決方案的另一個(gè)盲區(qū)：檢測(cè)工具本身可能被濫用。例如，聲稱"檢測(cè)深偽"的服務(wù)，實(shí)際功能是驗(yàn)證某張偽造內(nèi)容是否足夠逼真以通過(guò)審核。

八、教育干預(yù)的窗口：在事件發(fā)生前

報(bào)道中未充分展開(kāi)但值得強(qiáng)調(diào)的維度：數(shù)字素養(yǎng)教育的缺口。

現(xiàn)有性教育課程很少涵蓋深偽技術(shù)。青少年可能知道"不要分享密碼"，但不理解"你發(fā)布的每張照片都是潛在的訓(xùn)練數(shù)據(jù)"。

更有效的干預(yù)需要更新框架。不是簡(jiǎn)單的"網(wǎng)絡(luò)安全提示"，而是幫助年輕人理解：AI技術(shù)如何放大既有權(quán)力不平等，為什么"同意"在數(shù)字環(huán)境中更難撤銷，以及作為旁觀者如何有效介入。

針對(duì)潛在施害者的教育同樣重要。部分案例顯示，青少年并未意識(shí)到行為的嚴(yán)重性——將其視為"惡作劇"而非性虐待。法律后果的認(rèn)知、對(duì)受害者影響的共情理解、同伴壓力的抵抗策略，都需要納入課程。

挑戰(zhàn)在于時(shí)機(jī)。教育效果取決于在首次接觸技術(shù)之前建立認(rèn)知框架。但深偽應(yīng)用的傳播速度，可能已經(jīng)超過(guò)課程更新的周期。

九、行業(yè)自律的幻覺(jué)：為什么自愿承諾不夠

面對(duì)監(jiān)管壓力，AI行業(yè)普遍采用"自愿承諾"模式。例如，部分模型開(kāi)發(fā)者承諾在訓(xùn)練數(shù)據(jù)中過(guò)濾 explicit 內(nèi)容，或在API層面限制敏感應(yīng)用。

這些措施的漏洞很明顯。開(kāi)源模型無(wú)法被承諾約束——權(quán)重文件一旦發(fā)布，任何人可以微調(diào)移除限制。閉源API的審核依賴用戶舉報(bào)，屬于事后響應(yīng)。而專門優(yōu)化的"脫衣"模型，往往基于通用架構(gòu)在獨(dú)立數(shù)據(jù)集上訓(xùn)練，與主流開(kāi)發(fā)者的承諾無(wú)關(guān)。

更根本的問(wèn)題：行業(yè)自律的激勵(lì)結(jié)構(gòu)。深偽應(yīng)用的開(kāi)發(fā)者與基礎(chǔ)模型提供者通常是不同主體。后者可以聲稱"技術(shù)中立"，將責(zé)任推給下游濫用者。這種責(zé)任切割，讓自律承諾淪為公關(guān)姿態(tài)。

報(bào)道中提到的"數(shù)百萬(wàn)美元年收入"數(shù)據(jù)，揭示了市場(chǎng)規(guī)模的信號(hào)。當(dāng)違法收益足夠高，自律的約束力趨近于零。需要外部強(qiáng)制力改變成本收益計(jì)算。

十、治理路徑的艱難選擇

綜合WIRED與Indicator的調(diào)查，深偽校園危機(jī)的治理需要多線并進(jìn)，但每條路徑都有代價(jià)。

法律層面：需要明確深偽內(nèi)容的CSAM屬性，建立快速響應(yīng)的跨境執(zhí)法機(jī)制，同時(shí)避免過(guò)度擴(kuò)大化打擊正當(dāng)用途（如藝術(shù)表達(dá)、政治諷刺）。

平臺(tái)層面：需要重新設(shè)計(jì)默認(rèn)隱私設(shè)置，實(shí)施上傳前的來(lái)源驗(yàn)證，但可能犧牲用戶體驗(yàn)和增長(zhǎng)指標(biāo)。

技術(shù)層面：需要持續(xù)投入檢測(cè)研發(fā)，同時(shí)承認(rèn)技術(shù)無(wú)法單獨(dú)解決問(wèn)題。

教育層面：需要更新數(shù)字素養(yǎng)課程，但效果滯后于技術(shù)迭代。

最被低估的可能是受害者支持系統(tǒng)。報(bào)道強(qiáng)調(diào)Lloyd Richardson的觀點(diǎn)：「最重要的是當(dāng)事件發(fā)生時(shí)，我們?nèi)绾螏椭芎φ摺！巩?dāng)前的心理健康服務(wù)、法律援助、數(shù)字足跡清理支持，都遠(yuǎn)未跟上需求規(guī)模。

120萬(wàn)兒童的估算數(shù)字背后，是具體的個(gè)體創(chuàng)傷。治理框架的設(shè)計(jì)，需要以受害者的恢復(fù)為中心，而非僅聚焦于懲罰施害者或遏制技術(shù)擴(kuò)散。

深偽技術(shù)本身是中性的。但技術(shù)部署的社會(huì)條件——平臺(tái)激勵(lì)機(jī)制、法律執(zhí)行能力、教育資源分配——決定了它向哪個(gè)方向傾斜。當(dāng)前的所有信號(hào)都指向：這些條件正在惡化，而非改善。

調(diào)查的價(jià)值在于拒絕"這只是個(gè)別案例"的安慰。600名公開(kāi)確認(rèn)的受害者，28個(gè)國(guó)家的分布，數(shù)百萬(wàn)美元的商業(yè)鏈條——這是一個(gè)系統(tǒng)性危機(jī)的癥候。承認(rèn)這一點(diǎn)，是任何有效回應(yīng)的前提。