近日，演員溫崢嶸在央視新聞節(jié)目中表示，自己的形象被不法分子盜用，出現(xiàn)在多個(gè)帶貨直播間中，讓廣大網(wǎng)友誤認(rèn)為是本人在直播。這件事情一經(jīng)報(bào)道便迅速引發(fā)了熱議，不少網(wǎng)友留言表示自己經(jīng)常刷到“假冒直播間”，一直信以為真。人們在震驚之余也不禁開始思考，當(dāng)屏幕上出現(xiàn)一個(gè)形象，我們該如何辨別那是真人，還是“AI人”？數(shù)字時(shí)代，我們又該如何面對“眼見不再為實(shí)”的現(xiàn)狀？

AI技術(shù)濫用需遏制

“很難證明我是我”——這個(gè)看似荒誕的命題，正成為演員溫崢嶸的現(xiàn)實(shí)困境。據(jù)央視報(bào)道，那些身穿不同服裝、在同一時(shí)段現(xiàn)身多個(gè)直播間的，并非她本人，而是通過錄屏摳像、盜用過往直播素材，再經(jīng)AI深度合成技術(shù)重塑形象與聲音后生成的“數(shù)字人”。盡管溫崢嶸曾公開聲明并嘗試維權(quán)，網(wǎng)絡(luò)盜播與AI冒充行為仍屢禁不止。

盜用他人形象進(jìn)行直播的行為可能會面臨哪些后果？北京華象律師事務(wù)所主任劉校逢律師分析說：

劉校逢：以演員溫崢嶸被AI盜播為例，未經(jīng)權(quán)利人同意進(jìn)行AI換臉直播的行為觸及多重法律關(guān)系，可能引發(fā)民事、行政乃至刑事三個(gè)層面的法律后果。民事法律后果方面顯然是侵犯了他人的肖像權(quán)，同時(shí)還可能侵犯他人的姓名權(quán)和名譽(yù)權(quán)；行政法律后果方面，可能會違反《中華人民共和國個(gè)人信息保護(hù)法》、《中華人民共和國反不正當(dāng)競爭法》、《中華人民共和國廣告法》等法規(guī)；那么如果是利用換臉技術(shù)用于詐騙、敲詐勒索，侵犯公民個(gè)人信息，還可能要被追究刑事責(zé)任。

如果在這樣的直播間下了單，消費(fèi)者能否主張退貨來維護(hù)自己的權(quán)益呢？劉校逢律師表示：

劉校逢： 消費(fèi)者因?yàn)樾刨嚤粨Q臉的明星去購買了這個(gè)商品，但是實(shí)際銷售者與形象代言人毫無關(guān)系，這就屬于明顯的虛假宣傳或者是欺詐。這個(gè)時(shí)候消費(fèi)者可以根據(jù)《中華人民共和國消費(fèi)者權(quán)益保護(hù)法》主張“退一賠三”，如果商家拒絕處理，消費(fèi)者也可以向直播平臺進(jìn)行投訴，或撥打12315投訴，當(dāng)然也可以通過訴訟解決。

在溫崢嶸近期發(fā)布的視頻評論區(qū)，仍不斷有網(wǎng)友詢問：“這是真人嗎？”可見這一事件已引發(fā)公眾對AI人物合成技術(shù)的警惕。街頭采訪中，不少市民表示，僅憑肉眼已難以分辨視頻中出現(xiàn)的究竟是真人還是AI生成的“數(shù)字人”。

故事接龍StoryStorm發(fā)起人、國內(nèi)AI影像領(lǐng)域的資深策展人KiSA表示，AI技術(shù)迭代較快，已經(jīng)可以達(dá)到“以假亂真”的效果。偽造真人形象僅需1-3張照片，一段1分鐘視頻成本僅需幾元錢。

KiSA：像這樣的一個(gè)數(shù)字人盜播技術(shù)經(jīng)過從2023年到現(xiàn)在兩年時(shí)間的發(fā)展，已經(jīng)非常的成熟和便捷，只需要你的一段視頻。像海外的很多工具還需要你去驗(yàn)證是不是本人，充分證明你對這張臉的權(quán)屬，但是在很多本地部署的一些工具是可以輕易盜用名人直播或者一部分內(nèi)容去做成數(shù)字人形象，這種內(nèi)容95%的用戶是無法分辨的，而且隨著技術(shù)越進(jìn)步，能分辨的人會越少。

目前已能在部分作品中看到“AI生成”標(biāo)識，這類提示有助于判斷內(nèi)容的真實(shí)性。

那么，國家層面對于AI生成內(nèi)容是否有明確的標(biāo)識要求？北京市京師（通州）律師事務(wù)所主任宋祖宇律師表示，目前主要有兩大類，一類是顯示標(biāo)識，一類是隱式標(biāo)識。

宋祖宇：國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法》，自2025年9月1日起施行。其依據(jù)的是《中華人民共和國網(wǎng)絡(luò)安全法》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等法律、行政法規(guī)和部門規(guī)章。其要求利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息都需要添加標(biāo)識。目前我們的標(biāo)識方式包含兩種，第一種是顯式標(biāo)識，比如說現(xiàn)在很流行的AI換臉，必須添加顯式標(biāo)識，也就是以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識；第二類是隱式標(biāo)識，是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。

然而，虛假直播間顯然不會主動(dòng)“自曝身份”。記者隨機(jī)咨詢多家承接AI視頻制作的線上店鋪，對方都表示，雖然生成時(shí)自帶“AI生成”水印，但付費(fèi)后可予以去除，從而實(shí)現(xiàn)“以假亂真”。

中關(guān)村現(xiàn)代信息消費(fèi)應(yīng)用產(chǎn)業(yè)技術(shù)聯(lián)盟副理事長包冉指出：給視頻或者圖片打水印也有兩種不同的方法，最簡單的方法就是給每一幀的圖像加一層水印層，但是專業(yè)的視頻處理工具完全可以分層化處理，把添加的水印層抹去。新一代的叫像素級水印，但隨之而來的新一代擦除水印的技術(shù)又出來了，也是通過像素級的處理，使得這樣的水印擦除更徹底，更難以檢測。

商家表示可以去除水印/圖片來源于網(wǎng)絡(luò)聊天截圖

而讓包冉更擔(dān)心的是信任問題，一旦全社會的信任成本增加，帶來的后果不堪設(shè)想。

包冉：“諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者科斯先生曾提出一個(gè)理論，說整個(gè)社會，大到一個(gè)經(jīng)濟(jì)社會，小到一家企業(yè)或者更小到一個(gè)家庭的財(cái)務(wù)收支，信任非常關(guān)鍵。如果整個(gè)社會經(jīng)濟(jì)、網(wǎng)絡(luò)經(jīng)濟(jì)充斥著不信任，最終影響到的是網(wǎng)絡(luò)化時(shí)代社會經(jīng)濟(jì)的基本運(yùn)行。”

我們看到自2017年《新一代人工智能發(fā)展規(guī)劃》以來,國家層面已將法治與倫理納入人工智能發(fā)展的制度保障體系，也有平臺啟動(dòng)了“仿冒名人”專項(xiàng)治理行動(dòng)。但前有“央視主持人形象被盜用賣魚油”，后有“溫崢嶸無法證明我是我”，在包冉看來，AI偽造技術(shù)的濫用已經(jīng)成為了系統(tǒng)性風(fēng)險(xiǎn)，不能指望公眾自我防范。解決問題的核心在于壓實(shí)平臺的主體責(zé)任，并輔以監(jiān)管部門的強(qiáng)力執(zhí)法。

包冉表示，對數(shù)據(jù)的掌握能力和嗅探能力只有平臺能做到，平臺完全可以建立起一套監(jiān)控機(jī)制。但是矛盾在于，平臺很多時(shí)候需要的是流量以及基于流量的交易量，這時(shí)候“有形之手”就要出手了。相關(guān)的監(jiān)管部門該罰就罰，我一直認(rèn)為網(wǎng)絡(luò)視聽領(lǐng)域的監(jiān)管治理始終還差點(diǎn)意思，事后治理的威懾性可能能在相當(dāng)程度上彌補(bǔ)在前置的技術(shù)監(jiān)管環(huán)節(jié)的能力的欠缺。

故事接龍StoryStorm發(fā)起人、國內(nèi)AI影像領(lǐng)域的資深策展人KiSA也表示，AI技術(shù)的濫用長期以往將傷害到行業(yè)的健康運(yùn)行，或可以通過隱形標(biāo)識技術(shù)與平臺強(qiáng)監(jiān)管建立防火墻。

“平臺應(yīng)該知道這是AI內(nèi)容，它里面是有隱式水印的。當(dāng)它傳到平臺上，平臺識別到它是AI生成視頻且有真人形象引用時(shí)，那么你就要證明你對這個(gè)真人形象有權(quán)限。如果這個(gè)AI內(nèi)容他的目標(biāo)是讓你以為他是真的，他有不良意圖，那就應(yīng)該果斷刪除，并將發(fā)布賬號予以取締。如果一個(gè)身份證號多次有不良意圖的發(fā)布AI作品，有可能就會上某種黑名單，可以有效從根源上遏制一定內(nèi)容的濫用?？偟膩碚f，舉證責(zé)任和鑒別責(zé)任交給公眾是不應(yīng)該的，應(yīng)該由發(fā)布平臺和審批單位來承擔(dān)這個(gè)責(zé)任?！?/p>

北京市京師（通州）律師事務(wù)所主任宋祖宇律師還指出，現(xiàn)狀針對AI技術(shù)濫用的司法實(shí)踐確實(shí)存在痛點(diǎn)，有待進(jìn)一步完善?！暗谝皇乔謾?quán)的成本普遍很低，第二是取證特別難，第三是平臺責(zé)任比較模糊，以及現(xiàn)有的法律規(guī)范不足。我建議從立法上要進(jìn)行完善，從執(zhí)法上要進(jìn)行強(qiáng)化，從司法上要進(jìn)行細(xì)化，從行業(yè)自律上來進(jìn)行強(qiáng)化。”

北京華象律師事務(wù)所主任劉校逢律師則強(qiáng)調(diào)，目前我國規(guī)制AI換臉技術(shù)應(yīng)用的法律法規(guī)分散于多部法律中，導(dǎo)致現(xiàn)有法律治理框架難以對復(fù)雜的技術(shù)應(yīng)用進(jìn)行全面、系統(tǒng)的約束，應(yīng)盡快通過專項(xiàng)立法劃定清晰紅線。

劉校逢：“一是可以針對AI換臉技術(shù)進(jìn)行專項(xiàng)立法；二是可以通過發(fā)布一些典型案例或者司法解釋來及時(shí)回應(yīng)關(guān)鍵性的問題；三是我們可以嘗試引入舉證責(zé)任倒置，由技術(shù)提供方或者使用者來證明其行為的合法性與獲得授權(quán)，否則它將承擔(dān)不利的法律后果。只有這樣，才能讓創(chuàng)新在法治的軌道上安全奔跑，才能真正保護(hù)好每一位公民的合法權(quán)益?！?/p>

來源：北京交通廣播