臨近春節(jié)，短視頻平臺上掀起一種別樣的“拜年方式”。您可能也刷到過：熟悉的影視巨星、體壇健將、商界名人，甚至歷史人物，在屏幕里拱手作揖，說著吉祥話。這些場景，正是由當下的AI技術生成的。

然而，在“AI拜年”為新春祝福注入新意、帶來趣味的同時，人們不禁要問：技術的邊界在哪里？未經(jīng)授權的名人拜年，觸碰了哪些法律紅線？

在一段短視頻中，小品演員馮鞏、蔡明和香港明星劉德華等人正在網(wǎng)友家中圍在一起包餃子，給大家拜年。在視頻下方，一行小字標注：“作品含AI生成內(nèi)容”。這是近期在短視頻平臺頗為流行的AI名人拜年模板，從外國球星身穿中國服飾跳起民族舞蹈，到逝去多年的明星重現(xiàn)銀幕送祝福。

春節(jié)臨近，類似的合成短視頻在各大社交平臺出現(xiàn)，AI技術也正在以一種前所未有的娛樂化姿態(tài)介入我們的傳統(tǒng)節(jié)日。

對于這種打破次元壁的視覺沖擊，安徽市民張先生坦言，第一反應是驚奇，隨之而來的是一種難以言說的“違和感”。

技術帶來的“新奇反差”在短時間內(nèi)賺足了流量。江西市民肖倩告訴記者，她不僅自己看，還會轉發(fā)給朋友。

江西市民 肖倩：

大家都覺得很有意思。區(qū)分真假的話，主要看細節(jié)，比如有些視頻里人物眨眼頻率不太自然，或者口型和聲音有點對不上。我覺得娛樂一下還可以。

在這些短視頻里，孫權見證了現(xiàn)代機器人發(fā)展的進程，諸葛亮和愛因斯坦也在同臺演出。從趣味玩梗到逐漸失控，這些視頻是如何制作出來的？

數(shù)字經(jīng)濟學者劉興亮表示，核心是當前人工智能最前沿的深度合成技術，它包括兩個關鍵部分。

首先是視覺合成技術，也就是所謂的AI換臉或deep fake技術。該技術利用了深度學習和計算機視覺算法，通過大模型學習真實人物的面部特征、表情、嘴型等信息，然后將這些特征合成到新的素材中，從而讓畫面看起來像是真人在說話。

其次是語音合成技術，能夠模仿名人的聲音、語調(diào)甚至語氣，讓AI生成的聲音聽起來非常逼真。兩者結合起來就可以生成AI的拜年短視頻。

娛樂之外，普通民眾、從業(yè)者及法律專家，均對這類深度合成視頻的合規(guī)與安全問題表達了擔憂。

安徽市民 張先生：

特別是有一些人不了解這個技術，他有可能把這個當成事實，會造成一些負面的影響。

《中華人民共和國民法典》對肖像權和聲音權的保護作出了明確規(guī)定。中國政法大學人工智能法研究院院長張凌寒表示，人臉、人聲等都是具有生物識別功能的敏感個人信息。未經(jīng)授權的深度合成，侵犯了當事人的人格權益。

中國政法大學人工智能法研究院院長 張凌寒：

未經(jīng)他人授權直接使用相關權利人的肖像和聲音，侵害了當事人的人格權，其中包括肖像權、聲音權。聲音的權利也參照肖像權保護的相關規(guī)定。那么如果合成的聲音可能涉及造成他人侮辱、誹謗，損害他人聲譽，可能構成名譽權侵權。如果使用的聲音來自受著作權保護的錄音制品和作品，或者說他人聲音已經(jīng)被注冊為商標了，那可能還涉及侵害著作權和商標權等。如果使用他人聲音，又沒有經(jīng)過他人同意，這也是違反了行政法規(guī)的相關規(guī)定。

此外，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》也明確，提供人臉、人聲等生物識別信息編輯功能的，應當提示使用者依法告知被編輯個人，并取得其單獨同意。

記者搜索了AI名人拜年等相關模板的授權情況，其中，一些官方賬號發(fā)布的短視頻標注了已獲授權，但大量用戶自行生成的拜年內(nèi)容，難以判斷其合規(guī)性。某視頻制作應用功能使用規(guī)范中明確，不得輸入、分享任何未經(jīng)授權的內(nèi)容，不得侵害他人的著作權、專利權、商標權、肖像權、名譽權、榮譽權等。

有短視頻平臺也對涉及利用AI生成知名運動員形象進行虛假仿冒等違規(guī)內(nèi)容進行過處理，但海量審核、用戶規(guī)避等原因，仍然讓治理在執(zhí)行層面存在“防不勝防”的現(xiàn)實困境。

數(shù)字經(jīng)濟學者 劉興亮：

現(xiàn)在正規(guī)的大型AI服務平臺和一些專業(yè)的視頻合成工具，已經(jīng)開始嘗試加入一些防止濫用的機制。比如強制添加AI生成標識或者水印，讓觀眾一眼就能分辨出這是合成內(nèi)容。還有在用戶協(xié)議中明確禁止未授權使用他人的形象和聲音。部分平臺還在后臺建立了內(nèi)容檢測和過濾機制，利用AI自身來識別疑似深度合成的視頻。但真實情況是，現(xiàn)在仍然有很多工具沒有足夠的防護機制，特別是一些開源模型或者小型應用，可能根本沒有添加標識或者監(jiān)管的限制，這就給濫用留下了空間。

對于生產(chǎn)、傳播此類內(nèi)容的網(wǎng)絡平臺，中國政法大學知識產(chǎn)權中心特約研究員趙占領表示，必須履行好主體責任，建立全鏈條管理機制。

AI的經(jīng)營者、平臺企業(yè)應當盡到主體責任，應當嚴格落實相關的管理辦法所規(guī)定的標識義務；

要提供便捷的工具，也應建立事前提示、事中審核和事后追溯的完整機制；

在接到權利人發(fā)出的侵權通知之后，應當及時采取刪除等措施；

如果沒有采取相應措施，應當就損害擴大部分承擔連帶責任；

公眾也應當增強法律意識。

趕緊關注我們的官方賬號吧~

清朗網(wǎng)絡空間，我們共同守護！

掃碼進入舉報不良信息頁面

來源丨網(wǎng)信廣東微信公眾號、中央廣播電視總臺中國之聲

編輯｜李洋

柳州市互聯(lián)網(wǎng)信息辦公室出品