“太可怕了。視頻、聲音、口型完全看不出來真假?！?/p>

原始素材來自2020年電視劇《冰雨火》，換臉后的“假王勁松”用逼真的畫面和聲音進(jìn)行商業(yè)推廣。

他后怕地說：“措手不及，我家里人都分不清是不是真是我了?！?/p>

這不是孤例。春節(jié)前夕，旅行穿搭博主雷國悅在社交媒體上刷到了“另一個(gè)自己”。

唯一不同的是，畫面中的女生換了裙子，多戴了頂草帽。

她確信：這是AI融圖。

令雷國悅氣憤的不只是剽竊創(chuàng)意，更是對(duì)方直接用于商業(yè)推廣。那個(gè)粉絲過萬的賬號(hào)，實(shí)則是代理商批量投放的低成本推廣號(hào)。

她清楚記得拍攝時(shí)的構(gòu)思：特意等到日落之前，光暈正好能照亮對(duì)岸的摩天大樓。如今對(duì)方以極低成本“復(fù)刻”牟利。

她連夜通過可信時(shí)間戳服務(wù)留存電子證據(jù)，做好了訴訟準(zhǔn)備。

一對(duì)一維權(quán)已很難，當(dāng)侵權(quán)者是有組織的團(tuán)伙時(shí)，反抗更加無力。

聊天記錄中，主犯羅某2024年4月告訴同伙：“富貴險(xiǎn)中求，再說你又不是做黑五產(chǎn)業(yè)，怕什么?！?/strong>

最終，羅某和姚某各被判有期徒刑一年六個(gè)月，罰金6萬元。這是北京首起利用AI侵犯著作權(quán)的刑事案件。

侵權(quán)不止于作品，還有每個(gè)人的面孔。

在聊天記錄中，虞某某承諾可以定制，無論是明星還是生活中的女生，“只要是能看到的臉都能換”。5分鐘視頻收費(fèi)300元，30分鐘收費(fèi)500元。

演員王勁松遇到的正是這類盜用。經(jīng)辨認(rèn)，其原始素材來自2020年拍攝的電視劇《冰雨火》，AI換臉后的“假王勁松”以逼真的聲音和畫面進(jìn)行商業(yè)推廣。

醫(yī)療專家也成為灰黑產(chǎn)的目標(biāo)。北京協(xié)和醫(yī)院臨床營養(yǎng)科主任于康教授發(fā)現(xiàn)，自己從未參與錄制的視頻大量出現(xiàn)在社交媒體上。

“這完全是我的形象，聲音相似度完全超乎了我的想象?，F(xiàn)在技術(shù)能達(dá)到這個(gè)層級(jí)，有一點(diǎn)后背發(fā)涼?！彼袊@。

令于康擔(dān)憂的是，視頻造假方兜售的錯(cuò)誤商品及信息，老百姓一旦相信，會(huì)造成更廣泛的影響。

2021—2023年，GAN技術(shù)提升了假視頻的皮膚質(zhì)感，但側(cè)臉、眨眼等細(xì)節(jié)仍容易穿幫。

2024年至今，基于擴(kuò)散模型與Transformer架構(gòu)的生成式大模型技術(shù)逐漸完善，已能使環(huán)境光隨著面部轉(zhuǎn)動(dòng)而變化，并表現(xiàn)出毛孔、汗水等紋理細(xì)節(jié)。

大約只需10—15秒的語音就能完美解析一個(gè)人的聲音特點(diǎn)并復(fù)刻；實(shí)時(shí)分析音頻波動(dòng)后，能精準(zhǔn)驅(qū)動(dòng)3D嘴部肌肉模型；只要捕獲操縱者的細(xì)微表情，就能實(shí)時(shí)遷移到偽造目標(biāo)臉上；在環(huán)境合成環(huán)節(jié)，不僅能自動(dòng)補(bǔ)全背景，還能模擬攝像頭抖動(dòng)帶來的自然模糊。

傳統(tǒng)的識(shí)別方法也已失效?！耙郧翱梢杂^察面部邊緣，現(xiàn)在的模型會(huì)自動(dòng)在面部邊緣添加‘自然噪聲’和‘羽化處理’，甚至模擬光線溢出的效果?！彼f。

當(dāng)出現(xiàn)疑似深度偽造攻擊時(shí)，相對(duì)有效的手段是“多因子驗(yàn)證”，例如要求對(duì)方在視頻中做出快速用手在臉前揮動(dòng)、側(cè)轉(zhuǎn)90度頭等意料之外的極端動(dòng)作。大多數(shù)實(shí)時(shí)AI模型仍存在這一短板。

“但這些方法的有效性，在快速進(jìn)化的技術(shù)面前也隨時(shí)可能失效?！彼寡浴?/strong>

越來越“以假亂真”的AI換臉技術(shù)，正將普通人置于多重風(fēng)險(xiǎn)之中。

2026年全國兩會(huì)期間，全國政協(xié)委員靳東回應(yīng)AI換臉亂象時(shí)表示，很多人因此遭遇網(wǎng)絡(luò)詐騙。

視頻博主“濾鏡粉碎機(jī)”曾模擬過真實(shí)的詐騙流程。在技術(shù)方協(xié)助下，團(tuán)隊(duì)生成了一位成員的AI換臉視頻，用陌生微信號(hào)冒充本人聯(lián)系其母親，再用AI視頻撥打微信視頻電話，以“女友懷孕急用錢”的理由索要2萬元。

母親向其他親戚朋友求助，得到了許多“是騙子，別轉(zhuǎn)錢”的提醒。三小時(shí)后，在焦慮情緒的驅(qū)動(dòng)下，母親把錢轉(zhuǎn)到了陌生賬戶。事后復(fù)盤時(shí)，這位母親表示“從始至終都沒覺得有人冒充他”。

“平時(shí)再冷靜、有閱歷的家長，面對(duì)熟悉的臉龐和聲音，可能都難以戰(zhàn)勝情感?！彼f。

據(jù)國家反詐中心數(shù)據(jù)，2025年上半年，AI換臉詐騙案件涉案金額超68億元，單起案件最高損失達(dá)2000萬元。

技術(shù)正被用于系統(tǒng)性攻擊數(shù)字信任驗(yàn)證體系，并直接牟利。

普通人也更容易遭受被造謠和誹謗的風(fēng)險(xiǎn)。

“技術(shù)趨勢(shì)已不可阻擋，除了發(fā)展檢測(cè)技術(shù)，我們也必須加快立法，并加強(qiáng)向社會(huì)公眾科普有關(guān)AI技術(shù)的風(fēng)險(xiǎn)及法律知識(shí)?！彼f。

全國政協(xié)委員、導(dǎo)演劉家成認(rèn)為，若AI生成內(nèi)容被用于不良廣告，將對(duì)當(dāng)事人造成毀滅性打擊。他呼吁加強(qiáng)對(duì)AI的規(guī)范管理，嚴(yán)禁隨意替換他人面孔、嫁禍于人。

你擔(dān)心自己的臉被“偷”走嗎？