春節(jié)前夕，旅行穿搭博主雷國悅在社交媒體上意外刷到了“另一個(gè)自己”。起初，她只是感嘆“跟之前拍的那張好像”，沒想到，越看越覺得離譜。

今年1月，她在粉絲量超65萬的賬號(hào)“來醬是我”發(fā)布了多張拍攝于迪拜的寫真。她背對(duì)鏡頭，在高樓的無邊泳池眺望，遠(yuǎn)處是高樓大廈與海面。而另一位博主所發(fā)圖片的機(jī)位、構(gòu)圖與調(diào)色都與之高度相似，唯一不同的是，畫面中的女生穿了不同的裙子，多戴了一頂草帽。

“仔細(xì)對(duì)比后，我發(fā)現(xiàn)泳池里的波紋形狀、海面經(jīng)過的船只、其他游客露出的腳??所有細(xì)節(jié)都一模一樣。”雷國悅告訴《中國新聞周刊》，她確信，這是他人用AI工具融圖的結(jié)果。

近年來，隨著AI技術(shù)不斷普及，互聯(lián)網(wǎng)的“含AI量”飆升，不明來源的內(nèi)容也加速泛濫。創(chuàng)作者不僅面臨原始創(chuàng)意被抄襲的風(fēng)險(xiǎn)，其面容、身體形象等也可能被AI工具剝離，在看不見的地方被流轉(zhuǎn)、交易。AI為人類解放生產(chǎn)力的同時(shí)，也大幅降低了侵權(quán)行為的技術(shù)門檻。如何守住人類著作權(quán)、肖像權(quán)、隱私權(quán)的防線，也成為今年全國兩會(huì)的熱議話題。全國政協(xié)委員、導(dǎo)演劉家成認(rèn)為，若AI生成內(nèi)容被用于不良廣告，將對(duì)當(dāng)事人造成毀滅性打擊。他呼吁加強(qiáng)對(duì)AI的規(guī)范管理，嚴(yán)禁隨意替換他人面孔、嫁禍于人。

AI插畫/adan

AI成為剽竊利器

令雷國悅氣憤的是，該賬號(hào)不僅剽竊創(chuàng)意，還直接用于商業(yè)推廣。這個(gè)有著1萬多粉絲量的賬號(hào)，實(shí)則是代理商批量投放的低成本推廣號(hào)，帖子帶有明顯的商單屬性。

“拍攝這張寫真時(shí)，我和攝影師特意等到日落之前，當(dāng)時(shí)的光暈特別美，能正好照亮對(duì)岸的摩天大樓。在特定的構(gòu)圖下，泳池與摩天大樓形成了強(qiáng)烈的對(duì)比感�！彼宄赜浀米约簞�(chuàng)作時(shí)的構(gòu)思，難以接受對(duì)方以極低的成本復(fù)刻并牟利。

她還發(fā)現(xiàn)，該賬號(hào)里很多圖片的細(xì)節(jié)都經(jīng)不起推敲，懷疑也“融”了其他博主的圖�！胺糯罂矗h(yuǎn)處高層建筑的形狀、窗戶的線條都是歪的，這怎么可能是實(shí)拍？”她說。

她連夜通過可信時(shí)間戳服務(wù)對(duì)電子證據(jù)進(jìn)行留存，做好了后續(xù)可能要提起訴訟的準(zhǔn)備。不久后，她聯(lián)系對(duì)方，要求刪除內(nèi)容并公開發(fā)表道歉聲明。

對(duì)方起初矢口否認(rèn)，稱圖片由品牌方提供。她清楚賬號(hào)運(yùn)營的邏輯，反駁對(duì)方，指出AI融圖只可能是個(gè)人行為。雙方又僵持了幾天，在她持續(xù)施壓并強(qiáng)調(diào)“自己做好了全面維權(quán)的準(zhǔn)備”后，對(duì)方終于承認(rèn)了自己未經(jīng)授權(quán)使用了原創(chuàng)圖片并進(jìn)行AI換身的行為。

一對(duì)一的維權(quán)已很艱難，當(dāng)侵權(quán)者是一個(gè)有組織的團(tuán)伙時(shí)，個(gè)人創(chuàng)作者的反抗往往更加無力。2024—2025年，畫師張小藥就陷入了一場(chǎng)漫長的AI侵權(quán)紛爭。

2024年2月，住在北京的原創(chuàng)畫師張小藥在社交媒體發(fā)布了一則手繪的黑白插畫作品《擁抱心里的怪物》，畫面中，一位頭發(fā)里散落著星星的女孩緊緊擁抱著一只黑色的小惡魔。當(dāng)時(shí)的她正經(jīng)歷人生低谷，畫畫是她自我治愈的出口。該作品已獲得1.4萬點(diǎn)贊，在粉絲的建議下，她開始聯(lián)系廠商自印拼圖產(chǎn)品。

然而，當(dāng)她自售的拼圖只賣出幾十幅時(shí)，盜版的拼圖、手機(jī)殼、噴繪彩畫制品已開始在社交媒體的電商平臺(tái)泛濫�！按蠖鄶�(shù)商家一被舉報(bào)就主動(dòng)下架，過兩天又上架，只能打持久戰(zhàn)。唯獨(dú)有一家拼圖館，不僅是第一家盜圖的，還拒絕與我溝通，甚至把我拉黑。”張小藥告訴《中國新聞周刊》。

她發(fā)現(xiàn)，這家“Cno拼圖館”在推廣商品時(shí)完全照搬了她的商品圖、標(biāo)題文案、商品簡介和買家秀圖片等。至于其實(shí)際販?zhǔn)鄣钠磮D畫面，商家用AI工具把原畫作又“跑”了一遍，修改了大量原有紋理和細(xì)節(jié)，例如畫中女孩頭發(fā)上的六角形星星，一部分變成了五角形，數(shù)量也變少了。

2024年4月，該商家通過付費(fèi)推流、直播等手段，銷售了千余件盜版拼圖。有消費(fèi)者發(fā)現(xiàn)端倪后要求退款，店鋪客服仍強(qiáng)調(diào)“這是咱家畫師自己的作品”。身為原創(chuàng)者的張小藥卻被迫自證，她在社交媒體發(fā)布聲明，對(duì)方反以“誹謗”為由成功舉報(bào)。

“他們堅(jiān)稱自己只是‘平替’而非盜版。”張小藥說。她向北京一家法院提起民事訴訟，由于拼圖網(wǎng)店的地址位于貴州，她又向當(dāng)?shù)胤ㄔ禾峤涣瞬牧�，但案件在短期�?nèi)難以推進(jìn)。2024年5月，她撥打了公安局電話，這起民事糾紛由此轉(zhuǎn)向了刑事立案，成為北京首起利用AI侵犯著作權(quán)的刑事案件。

左為雷國悅拍攝的原圖，右為雷國悅在網(wǎng)上發(fā)現(xiàn)的AI融圖后生成的圖片。本版圖/受訪者提供

被AI洗稿維權(quán)難

2024年7月，公安機(jī)關(guān)以涉嫌侵犯著作權(quán)罪抓獲了3名拼圖館的經(jīng)營者、1名拼圖廠的老板，并于11月移送至北京市通州區(qū)檢察院審查起訴。2025年5—6月，檢察院提起公訴，法院作出一審判決。

在案件審理過程中，張小藥終于看清了“畫作被偷”背后的真相。判決書顯示，2024年3—7月，主要負(fù)責(zé)“Cno拼圖館”電商店鋪銷售、運(yùn)營的姚某，指使他人使用Stable Diffusion等開源軟件生成侵權(quán)圖片，拼圖廠的老板羅某則使用這些侵權(quán)圖片制作拼圖產(chǎn)品。截至案發(fā)，共有3000余件侵權(quán)拼圖被售出，非法經(jīng)營額超27萬元。

這對(duì)“搭檔”跑通了從找圖、AI融圖、生產(chǎn)銷售到營銷的鏈條。在犯罪過程中，羅某不僅指導(dǎo)姚某開設(shè)網(wǎng)店賣拼圖，還向其介紹AI畫師，并教授如何規(guī)避侵權(quán)、如何應(yīng)對(duì)投訴。據(jù)北京市通州區(qū)人民法院向央視披露的聊天記錄，羅某在2024年4月告訴姚某：“富貴險(xiǎn)中求，再說你又不是做黑五（類產(chǎn)業(yè)），怕什么�！薄绊敹嗑褪墙o錢，怕什么。你賺錢了，還給不起那千把塊嗎，都是騷操作�！�

面對(duì)新型工具，侵權(quán)者抱有鉆法律空隙的僥幸心理�！氨M管現(xiàn)實(shí)中用AI侵權(quán)的現(xiàn)象非常泛濫，但真正落實(shí)到訴訟的案件比例非常小�！眲蝾U華律師事務(wù)所律師楊衛(wèi)薪告訴《中國新聞周刊》。

“AI技術(shù)增加了著作權(quán)侵權(quán)的認(rèn)定與維權(quán)難度，也對(duì)律師和法官提出了更高要求�！彼M(jìn)一步解釋，傳統(tǒng)的著作權(quán)侵權(quán)行為，例如圖片著作權(quán)的批量維權(quán)，往往“照搬即侵權(quán)”，沒有太多抗辯空間，雙方易達(dá)成和解。但當(dāng)侵權(quán)者使用AI“洗稿”后，就在侵權(quán)的流程中增加了一處截?cái)帱c(diǎn)，舉證和判定“實(shí)質(zhì)性相似”的難度增加，最終結(jié)果也具有不確定性。

張小藥對(duì)此深有體會(huì)。例如，她原本需要在立案前將原創(chuàng)畫作和侵權(quán)圖送去鑒定機(jī)構(gòu)比對(duì)，有6張圖被商家“洗稿”，可能要花費(fèi)上萬元。所幸對(duì)方的抄襲痕跡明顯，案件得以順利立案。

被告律師在抗辯過程中表示，AI畫師在AI生圖、修圖過程中提出了10處不同方案，存在刻意差異，并不構(gòu)成抄襲。在調(diào)查過程中，檢察機(jī)關(guān)還發(fā)現(xiàn)，侵權(quán)人偽造了盜版畫作的創(chuàng)作過程，以虛假材料取得了中國版權(quán)保護(hù)中心的作品著作權(quán)登記證書。

最終，法院判決，利用AI工具生成“實(shí)質(zhì)相同”作品的行為仍構(gòu)成侵權(quán)。作為主犯的羅某和姚某，各被判處有期徒刑一年六個(gè)月，罰金6萬元。

現(xiàn)實(shí)中，仍有大量想要維權(quán)的創(chuàng)作者被層層難題“勸退”。楊衛(wèi)薪舉例道，春節(jié)期間，一位原創(chuàng)者手工繪制了以白菜和銅錢為核心元素、寓意“擺財(cái)來財(cái)”的畫作。很快，該作品被他人使用AI重新生成，從最終效果看，對(duì)方AI“洗稿”的程度相當(dāng)徹底。他判斷，這在當(dāng)前的司法實(shí)踐中面臨更復(fù)雜的侵權(quán)認(rèn)定難題。

一位食物類攝影博主向《中國新聞周刊》反映，其商單攝影作品屢遭其他品牌使用AI“洗稿”，對(duì)方僅替換水果等素材，畫面構(gòu)圖和光影均原樣照搬，相關(guān)宣傳圖仍在線下門店宣傳銷售。“即便存在競爭關(guān)系，品牌方也覺得訴訟耗時(shí)費(fèi)力，管不動(dòng)這種小規(guī)模的侵權(quán)�！彼f。還有一名畫師的原創(chuàng)角色（OC）被他人用AI改圖后制成了一款聊天智能體，在一個(gè)應(yīng)用程序中上線商用，被近7000人使用。然而，在她追查源頭的過程中，最初用AI改圖的人銷號(hào)跑路，難以追查其身份，缺少了立案所需的關(guān)鍵信息。

左為張小藥手繪插畫作品《擁抱心里的怪物》，右為社交媒體電商平臺(tái)銷售的盜版拼圖產(chǎn)品。本版圖/受訪者提供

“AI盜臉”快速進(jìn)化

隨著AI的普及，容易失竊的不僅是原創(chuàng)作品，還可能是任何人的面孔。

“太可怕了，視頻。聲音，口型完全看不出來真假。”2026年2月，演員王勁松發(fā)文稱自己的形象被某視頻賬號(hào)盜用，“把我AI了”。經(jīng)辨認(rèn)，其原始素材來自2020年拍攝的電視劇《冰雨火》，AI換臉后的假王勁松以逼真的聲音和畫面進(jìn)行商業(yè)推廣。“措手不及，我家里人都分不清是不是真是我了。”他說。

事實(shí)上，此類盜用已形成流水線。據(jù)《中國新聞周刊》此前報(bào)道，某公眾號(hào)的同內(nèi)容視頻中，不光有“王勁松”，還出現(xiàn)了張國立、唐國強(qiáng)、李亞鵬等多位名人的假形象，均在推薦一家“數(shù)字金融企業(yè)”。

醫(yī)療專家也成為灰黑產(chǎn)的目標(biāo)。據(jù)央視報(bào)道，2025年11月，北京協(xié)和醫(yī)院臨床營養(yǎng)科主任于康教授發(fā)現(xiàn)，自己從未參與錄制的視頻大量出現(xiàn)在社交媒體上�！斑@完全是我的形象，聲音相似度完全超乎了我的想象�，F(xiàn)在技術(shù)能達(dá)到這個(gè)層級(jí)，有一點(diǎn)后背發(fā)涼。”他感嘆。

令于康擔(dān)憂的是，視頻造假方兜售的錯(cuò)誤商品及錯(cuò)誤信息，老百姓一旦相信，會(huì)造成更廣泛的影響，也讓營養(yǎng)學(xué)界長期以來的科普努力付諸東流。記者發(fā)現(xiàn)，目前，該類視頻仍在社交媒體中傳播。例如，有視頻標(biāo)注著文字“后悔沒早點(diǎn)看到，跟著于康教授喝白醋”，假于康聲稱靠某種方法“掉了40多斤”，其妹妹也在3個(gè)月內(nèi)掉了32斤。在評(píng)論區(qū)，有超170名網(wǎng)友留言索要減肥食譜。

當(dāng)前，在社交媒體和二手交易平臺(tái)上，販?zhǔn)跘I換臉工具與服務(wù)的行為仍很常見，不少商家將明星換臉效果用作演示與宣傳。

早在2020年，針對(duì)中老年婦女的“假靳東詐騙”事件就引起了社會(huì)對(duì)盜臉技術(shù)的關(guān)注。中國人民大學(xué)信息學(xué)院副教授張文平告訴《中國新聞周刊》，當(dāng)時(shí)的技術(shù)手段主要依靠視頻剪輯和語音合成（TTS），需要截取大量真實(shí)影視素材，再用簡單的對(duì)嘴軟件或后期剪輯拼接而成，仍存在眼神呆滯、背景不匹配、音畫嚴(yán)重不同步等偽造痕跡，肉眼可辨。

然而，技術(shù)已在幾年內(nèi)高速進(jìn)化。2021—2023年，GAN（生成對(duì)抗網(wǎng)絡(luò)）技術(shù)通過“生成器”與“判別器”互搏的方式學(xué)習(xí)人臉特征，提升了假視頻的皮膚質(zhì)感，但側(cè)臉、眨眼等細(xì)節(jié)仍容易穿幫。2024年至今，基于Diffusion（擴(kuò)散模型）與Transformer架構(gòu)的生成式大模型技術(shù)逐漸完善，AI通過大量數(shù)據(jù)學(xué)習(xí)、模擬現(xiàn)實(shí)規(guī)律和邏輯，已能使環(huán)境光隨著面部轉(zhuǎn)動(dòng)而變化，并表現(xiàn)出毛孔、汗水等紋理細(xì)節(jié)。

“現(xiàn)在的深度偽造是全方位的，多模態(tài)擴(kuò)散模型能實(shí)現(xiàn)聲音、唇形、表情、動(dòng)作的同步。”張文平解釋道，大約只需10—15秒的語音就能完美解析一個(gè)人的聲音特點(diǎn)并復(fù)刻；實(shí)時(shí)分析音頻波動(dòng)后，則能精準(zhǔn)驅(qū)動(dòng)3D嘴部肌肉模型；隨后，只要捕獲操縱者的細(xì)微表情，如挑眉、皺眉等，就能實(shí)時(shí)遷移到偽造目標(biāo)臉上；在環(huán)境合成環(huán)節(jié)，不僅能自動(dòng)補(bǔ)全背景，還能模擬攝像頭抖動(dòng)帶來的自然模糊。

傳統(tǒng)的識(shí)別方法也已失效。“以前，我們可以觀察面部邊緣，現(xiàn)在的模型會(huì)自動(dòng)在面部邊緣添加‘自然噪聲’和‘羽化處理’，甚至模擬光線溢出的效果，消除了生硬的邊界感。以前，‘不眨眼’也是假視頻的硬傷，現(xiàn)在的AI能通過‘生理特征模擬’模塊，偽造心率引起的微弱膚色變化和正常的眨眼頻率�！彼f。

檢測(cè)技術(shù)不斷面臨新的挑戰(zhàn)。張文平表示，當(dāng)出現(xiàn)疑似深度偽造攻擊時(shí)，已不能靠肉眼觀測(cè)或單一檢測(cè)工具。目前相對(duì)有效的手段是“多因子驗(yàn)證”，例如要求對(duì)方在視頻中做出快速用手在臉前揮動(dòng)、側(cè)轉(zhuǎn)90度頭等意料之外的極端動(dòng)作，大多數(shù)實(shí)時(shí) AI 模型仍存在這一短板。

“但這些方法的有效性，在快速進(jìn)化的技術(shù)面前也隨時(shí)可能失效�！彼寡浴�

據(jù)國家反詐中心數(shù)據(jù)，2025年上半年，AI換臉詐騙案件涉案金額超68億元，單起案件最高損失達(dá)2000萬元。圖/視覺中國

普通人防不勝防

越來越“以假亂真”的AI換臉技術(shù)，正將普通人置于多重風(fēng)險(xiǎn)之中。2026年全國兩會(huì)期間，全國政協(xié)委員靳東也回應(yīng)了AI換臉亂象，他表示AI換臉技術(shù)不只是用在短劇，很多人也因?yàn)锳I換臉遭遇網(wǎng)絡(luò)詐騙。

視頻博主“濾鏡粉碎機(jī)”曾模擬過真實(shí)的詐騙流程，在2024年9月進(jìn)行了一場(chǎng)“AI換臉反詐騙測(cè)試”實(shí)驗(yàn)。在技術(shù)方的協(xié)助下，團(tuán)隊(duì)生成了一位成員的AI換臉視頻，用陌生微信號(hào)冒充本人聯(lián)系其母親，再用AI視頻撥打微信視頻電話，以“女友懷孕急用錢”的理由索要2萬元。

母親向其他親戚朋友求助，得到了許多“是騙子，別轉(zhuǎn)錢”的提醒，在此期間始終無法聯(lián)系到本人。隨著時(shí)間流逝，她的猜想越來越多，開始將孩子穿的綠色T恤想象成手術(shù)服，懷疑他“攤上了大事”，真正需要用錢的理由不方便明說。三小時(shí)后，在焦慮情緒的驅(qū)動(dòng)下，母親把錢轉(zhuǎn)到了陌生的銀行賬戶。事后復(fù)盤時(shí)，這位母親表示“從始至終都沒覺得有人冒充他”。

團(tuán)隊(duì)主創(chuàng)袁文逸告訴《中國新聞周刊》，中老年人是電信詐騙的主要受眾群體，面對(duì)AI帶來的新型騙術(shù)將更沒有招架之力�！拔覀儾捎玫睦碛杀日鎸�(shí)的電信詐騙案例溫和得多，但最終的結(jié)果仍然超出了想象。平時(shí)再冷靜、有閱歷的家長，面對(duì)熟悉的臉龐和聲音，可能都難以戰(zhàn)勝情感�！彼f。

據(jù)國家反詐中心數(shù)據(jù)，2025年上半年，AI換臉詐騙案件涉案金額超68億元，單起案件最高損失達(dá)2000萬元�！缎戮﹫�(bào)》曾統(tǒng)計(jì)2023年3月至2025年3月間10家主流媒體網(wǎng)站的103篇“AI詐騙”相關(guān)報(bào)道，結(jié)果顯示，冒充類詐騙占比高達(dá)62％，對(duì)方主要冒充公檢法、親朋好友；其他典型套路還有敲詐勒索、網(wǎng)購?fù)素浲丝�、入�?huì)薦股、保險(xiǎn)借貸、相親戀愛、實(shí)習(xí)轉(zhuǎn)正等。

“AI換臉的逼真性、多場(chǎng)景性、易操作性，使其危害的規(guī)模和范圍都在急劇擴(kuò)大。”張文平指出，尤其是其動(dòng)態(tài)性和實(shí)時(shí)性，能讓很多攻擊成為現(xiàn)實(shí)，讓人更加防不勝防。

該技術(shù)正被用于系統(tǒng)性攻擊數(shù)字信任驗(yàn)證體系，并直接牟利。中國裁判文書網(wǎng)在2025年12月收錄了一則浙江省紹興市上虞區(qū)人民法院審理的案件。一審判決書顯示，2023年11月至2024年3月，謝某首先從他人處購買公民個(gè)人信息參與茅臺(tái)酒抽簽，中簽后，又向趙某等人購買中簽人的身份證照、人臉照片270余張。隨后，另一人張某利用AI換臉視頻小程序制作了公民個(gè)人頭像的眨眼動(dòng)態(tài)視頻，以此破解人臉識(shí)別認(rèn)證系統(tǒng)，進(jìn)入支付界面并進(jìn)行相關(guān)付款操作，共計(jì)制作120余次，獲利超6000元。所購買的60余瓶茅臺(tái)酒，后被賣給江西省南昌市某公司，非法獲利1.2萬元。

在另一起由河北邯鄲法院審理的案件中，犯罪分子冒用他人身份，并利用AI換臉技術(shù)通過了個(gè)人實(shí)名認(rèn)證，批量注冊(cè)百家號(hào)等平臺(tái)賬號(hào)進(jìn)行倒賣，還注冊(cè)了京東白條平臺(tái)借貸以充值話費(fèi)。

普通人也更容易遭受被造謠和誹謗的風(fēng)險(xiǎn)。中國裁判文書網(wǎng)2024年8月收錄了一則杭州互聯(lián)網(wǎng)法院審理的案件。判決書顯示，虞某某自2021年起，在境外社交網(wǎng)站創(chuàng)建了“女神合成視頻圖試看群”等6個(gè)社交群組，在其中發(fā)布千余個(gè)淫穢視頻和圖片。群組成員合計(jì)2000余人，單人的入群費(fèi)用為198—498元不等。

其中部分視頻和圖片是他利用AI換臉軟件，將從互聯(lián)網(wǎng)等渠道收集到的被編輯人人臉信息與部分淫穢視頻中的主體人臉信息進(jìn)行替換合成而制作。在聊天記錄中，虞某某承諾可以定制，無論是明星還是生活中的女生，“只要是能看到的臉都能換”，5分鐘的視頻收費(fèi)300元，30分鐘的視頻收費(fèi)500元。

張文平表示，未來，隨著偽造水平的提升，現(xiàn)有的信任驗(yàn)證體系可能會(huì)進(jìn)一步崩塌，還可能出現(xiàn)實(shí)時(shí)數(shù)字勒索、制造假新聞進(jìn)行市場(chǎng)或政治操縱、司法證據(jù)污染等新型亂象。

“技術(shù)趨勢(shì)已不可阻擋，除了發(fā)展檢測(cè)技術(shù)，我們也必須加快立法，并加強(qiáng)向社會(huì)公眾科普有關(guān)AI技術(shù)的風(fēng)險(xiǎn)及法律知識(shí)。”張文平說。

（文中張小藥為化名）

記者：王詩涵

（wangshihan@chinanews.com)

編輯：閔杰