“AI生成虛假視頻的成本極低，取證申訴的過程卻要花費巨大的精力。維權(quán)成本和收益的不成比例，可能是很多人對維權(quán)望而卻步的主要原因。”

文 /巴九靈

“被做成AI換臉模板，700多人用過，我居然毫不知情?！?/p>

陳雨萱發(fā)了這樣一條帖子。她去年剛從南方一所大學(xué)畢業(yè)，舞蹈專業(yè)出身，長相清秀，在社交媒體上有幾十萬粉絲。

今年1月，她收到一條私信，稱有人把她的原創(chuàng)舞蹈視頻AI換臉后發(fā)在了自己的賬號上，收獲了上千點贊。

她聯(lián)系對方后得知，這段視頻竟成為某AI創(chuàng)作APP上的熱門模板之一，已經(jīng)被使用了700多次。

陳雨萱對此感到憤怒。這條視頻是她半年前在大學(xué)畢業(yè)晚會上的演出實拍。和同學(xué)們辛苦排練的成果，如今卻在自己毫不知情的情況下成了AI換臉的模板。

“我看到過更大的網(wǎng)紅博主，他們自己辛苦拍的照片、視頻，被人拿去做了換臉內(nèi)容。但維權(quán)難度超乎想象，最后都不了了之。”陳雨萱說。

受此困擾的群體還在急速膨脹，大量對肖像權(quán)、著作權(quán)格外敏感的公眾人物、知名IP被卷入其中。

過去一個月，對AI生成內(nèi)容的侵權(quán)質(zhì)疑成了密度最高的新聞之一。2月26日，演員王勁松發(fā)文控訴自己的形象被AI盜用生成視頻：“太可怕了，視頻。聲音、口型完全看不出來真假。”

周星馳經(jīng)紀(jì)人陳振宇，針對短視頻平臺大量出現(xiàn)包含周星馳形象的AI視頻，發(fā)文質(zhì)疑其侵權(quán)性質(zhì)，稱將追責(zé)到底。

白巖松在主持新聞節(jié)目時稱：“一些AI合成明星、名人的視頻被人用來帶貨推銷甚至騙人，甚至我本人都是受害者。很多平臺上都有AI說著我的聲音在做各種事、賣著各種貨，但我真的沒做過這種事。”

周杰倫在社交平臺評論自己被AI惡搞的視頻：“到底是想要怎么樣？”

圖源：網(wǎng)絡(luò)

春節(jié)期間，各種用名人形象生成的AI拜年視頻廣為流傳，還有諸如“女星回農(nóng)村過年”“唐僧師徒四人在你家包餃子”的AI劇情短視頻夾雜其中，畫面以假亂真。

IP巨頭更加感到危機(jī)四伏。去年9月，Minimax旗下視頻生成模型“海螺AI”被迪士尼、華納兄弟、環(huán)球影業(yè)等12家好萊塢公司聯(lián)名起訴，指控其侵犯了超過500項影視IP版權(quán)。

AI侵權(quán)爭議，在AI狂歡的春節(jié)過后，醞釀成一顆越發(fā)不容忽視的風(fēng)險炸彈。

AI侵權(quán)的經(jīng)濟(jì)賬

目前，國內(nèi)外所有模型都會使用公開數(shù)據(jù)進(jìn)行訓(xùn)練，所以網(wǎng)絡(luò)流傳的高清視頻素材越多的明星、名人、知名IP，被AI生成效果就會越逼真。

由此就形成了一種極其普遍的侵權(quán)情景：AI生成的包含特定形象的內(nèi)容，侵犯了其他利益方的權(quán)利。其中包括個人肖像權(quán)，也包括IP等形象的著作權(quán)。

大成律師事務(wù)所杭州辦公室律師王征馳告訴我們，AI生成內(nèi)容對個人肖像權(quán)的侵犯，可以理解為一種預(yù)期利益的損失。

在計量這種損失時，名人以往授權(quán)其肖像權(quán)商用的費用標(biāo)準(zhǔn)是重要的參考維度。國內(nèi)一線藝人單次品牌代言費就達(dá)到數(shù)千萬元。而如今在電商平臺上搜索“AI形象”“數(shù)字人”等關(guān)鍵詞，可以找到上百個提供對應(yīng)服務(wù)的店鋪，價格從十幾元到上千元不等。

據(jù)媒體報道，記者花16.8元購買一款A(yù)I數(shù)字人軟件，上傳視頻、聲音、文案等后，短短一分鐘時間，就獲得了一段明星推薦產(chǎn)品好用的視頻。

真金白銀之外，AI生成的惡搞、低俗內(nèi)容也會損害名人形象，降低IP等無形資產(chǎn)的價值。

今年年初，海外社交媒體平臺X上出現(xiàn)大量名人不雅照，這些照片來自大模型Grok，只需一句口令就能讓明星、名人們衣冠整齊的照片變成帶有性暗示的比基尼艷照，并在社交媒體上廣泛傳播。

王征馳提到，這類內(nèi)容在民事層面，涉及侵犯肖像權(quán)、聲音權(quán)益、人格權(quán)及個人信息權(quán)益；刑事層面，行為達(dá)到特定嚴(yán)重情節(jié)的，可能涉嫌侮辱罪、誹謗罪。

對于商業(yè)IP，著作權(quán)的實際損失，可以根據(jù)權(quán)利人因侵權(quán)所造成復(fù)制品發(fā)行減少量，或者侵權(quán)復(fù)制品銷售量與發(fā)行該復(fù)制品的單位利潤乘積計算。發(fā)行減少量難以確定的，按照侵權(quán)復(fù)制品市場銷售量確定。

北京互聯(lián)網(wǎng)法院公開審理AI侵權(quán)案

迪士尼單個IP在中國的品牌授權(quán)費用就達(dá)到數(shù)百萬元人民幣。2024年的財報顯示，其全年IP授權(quán)零售總額是620億美元，IP收入全球第一。

此前Minimax被迪士尼等起訴時，法院被要求判決其永久禁止侵權(quán)，并賠償每部侵權(quán)作品最高15萬美元、合計最高7500萬美元的法定賠償。

而這些看似針對公眾人物和知名IP的侵權(quán)，也在傷害著普通人。

在社交及短視頻平臺上，AI生成的明星虛假推銷視頻比比皆是，背后已然形成一條黑灰產(chǎn)業(yè)鏈，讓消費者甄別難度陡增。

而且，網(wǎng)絡(luò)流傳用名人形象生成的低俗內(nèi)容或虛構(gòu)言論極易成為詐騙工具。比如，股市火熱之際，大量短視頻賬號發(fā)布用徐翔、王亞偉、“章盟主”等“民間股神”形象生成的內(nèi)容薦股、賣課，甚至以集資炒股名義，將投資者引流至資金盤騙局。

更讓人不寒而栗的是，AI生成的侵權(quán)內(nèi)容，正實實在在威脅著每一個人的財產(chǎn)和人身安全。

去年7月，江蘇一人利用非法獲取的195萬多條公民個人信息和AI換臉軟件，登錄被害人的支付賬戶，盜刷銀行卡消費數(shù)萬元；11月，山東一法院判決了一起AI換臉詐騙案，被告人通過AI換臉偽造白富美形象，詐騙了13萬元。

圖源：網(wǎng)絡(luò)

風(fēng)險面前，越來越多人向AI舉起了法律武器。

維權(quán)為何艱難？

“維權(quán)復(fù)雜程度超乎想象，我沒有專業(yè)的法律團(tuán)隊，也沒有足夠的時間和精力去和平臺、侵權(quán)者周旋。”普通人陳雨萱的控訴帖沒有激起太多水花，最終不了了之。

而即便是頗具影響力的公眾人物和IP巨頭，在鋪天蓋地的AI偽造內(nèi)容面前也有些力不從心。

去年11月，演員溫崢嶸自曝在手機(jī)上刷到“自己在直播”。隨后，團(tuán)隊向商家發(fā)去律師函，大量舉報這類假賬號，但即使法務(wù)告到手軟，這些號還是野草般一茬茬地冒出來。

圖源：微博

在王征馳看來，追責(zé)是可行的，已有法條結(jié)合目前的典型案例，足以處理很大一部分這類案件。然而，生成的人物是否足以識別到特定個人；肖像、聲音等因素是否被商用；部分改編片段是否足以映射到特定作品；賠償金額如何界定等，這會涉及非常復(fù)雜的取證環(huán)節(jié)。

◎首先，肖像權(quán)的可識別性是最大取證難點。

溫崢嶸在艱難維權(quán)中曾無奈發(fā)問：“我該怎么證明我是我？”

AI換臉最常見的手法是，保留原視頻的其他所有細(xì)節(jié)，僅替換面部。而當(dāng)面部這一核心特征被替換，又該如何界定侵權(quán)？

有學(xué)者提出了一個思想實驗：甲的肖像被AI生成了兩份漫畫，其中一份內(nèi)容侮辱了甲，另一份被用于商品推廣。如果甲并非名人，按照現(xiàn)行標(biāo)準(zhǔn)，兩種情形下，甲都可能因為“無法被公眾識別”而維權(quán)失敗，但從情理而言，顯然第一種情況下更應(yīng)該得到救濟(jì)。

◎其次，換臉視頻沒有被直接用來宣傳帶貨，而是被用作免費模板或僅供娛樂，實質(zhì)上吸引了用戶觀看廣告、充值會員，平臺通過廣告分成或會員費盈利了，但受害人的取證會變得極其困難。

◎再者，界定賠償金額時，如果名人或IP形象雖然沒有被直接用于牟利，但被用來惡搞引流，對受害人造成了精神損害，對肖像或IP價值造成了潛在傷害，這種損失極難量化。

程序上也有不少困難。一條AI換臉視頻背后，涉及技術(shù)開發(fā)者、內(nèi)容的實際制作者、上傳內(nèi)容的平臺等各種主體，侵權(quán)鏈條長且復(fù)雜，準(zhǔn)確地找到屏幕背后的始作俑者如大海撈針。

這導(dǎo)致AI生成虛假視頻的成本極低，取證申訴的過程卻要花費巨大的精力。維權(quán)成本和收益的不成比例，可能是讓被侵權(quán)人對維權(quán)望而卻步的主要原因。

圖源：小紅書

技術(shù)與權(quán)利之間

如果追根溯源，AI侵權(quán)難以定性追責(zé)的深層原因是，技術(shù)進(jìn)化和權(quán)益保護(hù)之間，難以尋求平衡。

今年2月，知名科技UP主“影視颶風(fēng)”的創(chuàng)始人Tim發(fā)布了一條視頻，稱在沒有上傳聲音素材的情況下，用AI生成了一段聲線能以假亂真的視頻。

原因在于，該模型大量使用了自己的原創(chuàng)視頻進(jìn)行訓(xùn)練。但Tim本人和公司沒有收到過任何費用，也沒有任何人聯(lián)系過授權(quán)。

在如潮質(zhì)疑中，大模型公司宣布暫停包含真人素材的AI視頻生成，涉及各種知名IP的內(nèi)容生產(chǎn)也受到限制。

輿論其實沒有一邊倒地支持Tim。有觀點認(rèn)為，AI工具的進(jìn)化必須依賴海量優(yōu)質(zhì)素材，監(jiān)管過嚴(yán)會影響模型的質(zhì)量，最終傷害用戶體驗。

目前，各大視頻生成AI上，都已無法生成帶有真人形象的內(nèi)容。即使是相對模糊的口令，如上傳一張自家寵物的照片，要求“生成一段小貓打怪獸的視頻”，得到的回復(fù)也是“由于版權(quán)相關(guān)限制，暫時無法創(chuàng)作”。

輸出受限會削弱用戶對AI的興趣。從AIGC的增長史上看，幾乎每一次爆發(fā)都與特定形象的破圈密切相關(guān)：去年Sora2橫空出世，伴隨著大量OpenAI CEO奧特曼、特朗普等名人的劇情視頻火爆；今年Seedance2.0走紅，廣為傳播的AI生成明星拜年視頻功不可沒。

兩難之下，大模型公司同樣在尋找解法。

其一是法律爭論。

去年年底，Minimax在招股書中首次回應(yīng)了迪士尼等版權(quán)方的起訴，核心反駁點是“工具中立”和“無直接獲利”：其一，平臺根據(jù)用戶口令生成內(nèi)容，不存在復(fù)制、傳播特定作品的主觀故意；其二，公司并未從中直接獲利。因此，不構(gòu)成侵權(quán)。

對大模型公司來說，模型訓(xùn)練需要海量數(shù)據(jù)，但訓(xùn)練過程卻是個黑箱。目前法律界相對認(rèn)可度較高的觀點是，在模型訓(xùn)練階段，對涉及IP和肖像的內(nèi)容可有一定合理使用的空間；但在內(nèi)容生成階段，公司應(yīng)采取“版權(quán)過濾措施”，防止AI輸出對原作有替代性的內(nèi)容。

此外，未來更有可能的一條路徑是，AI與版權(quán)方基于利益重新談判。

提供了較多參考性的是OpenAI。它早年的主要辦法是“花錢買平安”：在因抓取報道訓(xùn)練而遭到《紐約時報》等多家媒體起訴后，OpenAI先后與數(shù)十家媒體巨頭達(dá)成了授權(quán)協(xié)議，每年的授權(quán)費高達(dá)數(shù)千萬甚至數(shù)億美元。

但隨著AI對現(xiàn)實世界的涉入漸深，各方開始尋找新的解題思路。去年12月，迪士尼宣布與OpenAI達(dá)成合作，迪士尼對OpenAI進(jìn)行10億美元的股權(quán)投資，并準(zhǔn)許使用涵蓋超過200個經(jīng)典角色的迪士尼IP庫。雙方還將共同開發(fā)面向Disney+流媒體平臺用戶的AI創(chuàng)作新產(chǎn)品。

這意味著，比版權(quán)與AI的法律紛爭落幕來得更快的，或許是利益各方坐上談判桌，把AI織進(jìn)原有的利益網(wǎng)絡(luò)中，重新分配籌碼。

AI生成視頻引發(fā)爭議

結(jié)語

這片法律和道德的真空區(qū)正在被迅速關(guān)注和填補。

去年的全國兩會上，雷軍提交了一份關(guān)于加強“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理的建議，TCL創(chuàng)始人李東生、演員靳東等多位代表也提出關(guān)于嚴(yán)管AI深度偽造的提案。

2026年兩會即將開幕，涉及AI與個人權(quán)利保護(hù)的提案也已隱隱浮出水面。

全國政協(xié)委員、科學(xué)技術(shù)部原副部長李萌近期表示，隨著Agent越來越多地參與到人們生活中，數(shù)據(jù)隱私保護(hù)、算法公正、系統(tǒng)穩(wěn)定性等問題非常值得關(guān)注。要以敬畏之心守護(hù)AI技術(shù)向善而行，在合法合規(guī)的前提下服務(wù)社會發(fā)展。

萬眾矚目下，AI的下一步，比瓜分利益版圖更重要的，是厘清身后合法性的紅線。

這條紅線之外，無數(shù)具體的人，正等待答案。

作者|溫若梅|責(zé)任編輯|徐濤

主編|何夢飛|圖源|VCG、網(wǎng)絡(luò)