臨近春節(jié)，短視頻平臺(tái)上掀起一種別樣的“拜年方式”。您可能也刷到過(guò)：熟悉的影視巨星、體壇健將、商界名人，甚至歷史人物，在屏幕里拱手作揖，說(shuō)著吉祥話。這些場(chǎng)景，正是由當(dāng)下的AI技術(shù)生成的。

然而，在“AI拜年”為新春祝福注入新意、帶來(lái)趣味的同時(shí)，人們不禁要問(wèn)：技術(shù)的邊界在哪里？未經(jīng)授權(quán)的名人拜年，觸碰了哪些法律紅線？

在一段短視頻中，小品演員馮鞏、蔡明和香港明星劉德華等人正在網(wǎng)友家中圍在一起包餃子，給大家拜年。在視頻下方，一行小字標(biāo)注：“作品含AI生成內(nèi)容”。這是近期在短視頻平臺(tái)頗為流行的AI名人拜年模板，從外國(guó)球星身穿中國(guó)服飾跳起民族舞蹈，到逝去多年的明星重現(xiàn)銀幕送祝福。

春節(jié)臨近，類似的合成短視頻在各大社交平臺(tái)出現(xiàn)，AI技術(shù)也正在以一種前所未有的娛樂(lè)化姿態(tài)介入我們的傳統(tǒng)節(jié)日。

對(duì)于這種打破次元壁的視覺(jué)沖擊，安徽市民張先生坦言，第一反應(yīng)是驚奇，隨之而來(lái)的是一種難以言說(shuō)的“違和感”。

技術(shù)帶來(lái)的“新奇反差”在短時(shí)間內(nèi)賺足了流量。江西市民肖倩告訴記者，她不僅自己看，還會(huì)轉(zhuǎn)發(fā)給朋友。

江西市民 肖倩：

大家都覺(jué)得很有意思。區(qū)分真假的話，主要看細(xì)節(jié)，比如有些視頻里人物眨眼頻率不太自然，或者口型和聲音有點(diǎn)對(duì)不上。我覺(jué)得娛樂(lè)一下還可以。

在這些短視頻里，孫權(quán)見(jiàn)證了現(xiàn)代機(jī)器人發(fā)展的進(jìn)程，諸葛亮和愛(ài)因斯坦也在同臺(tái)演出。從趣味玩梗到逐漸失控，這些視頻是如何制作出來(lái)的？

數(shù)字經(jīng)濟(jì)學(xué)者劉興亮表示，核心是當(dāng)前人工智能最前沿的深度合成技術(shù)，它包括兩個(gè)關(guān)鍵部分。

首先是視覺(jué)合成技術(shù)，也就是所謂的AI換臉或deep fake技術(shù)。該技術(shù)利用了深度學(xué)習(xí)和計(jì)算機(jī)視覺(jué)算法，通過(guò)大模型學(xué)習(xí)真實(shí)人物的面部特征、表情、嘴型等信息，然后將這些特征合成到新的素材中，從而讓畫(huà)面看起來(lái)像是真人在說(shuō)話。

其次是語(yǔ)音合成技術(shù)，能夠模仿名人的聲音、語(yǔ)調(diào)甚至語(yǔ)氣，讓AI生成的聲音聽(tīng)起來(lái)非常逼真。兩者結(jié)合起來(lái)就可以生成AI的拜年短視頻。

娛樂(lè)之外，普通民眾、從業(yè)者及法律專家，均對(duì)這類深度合成視頻的合規(guī)與安全問(wèn)題表達(dá)了擔(dān)憂。

安徽市民 張先生：

特別是有一些人不了解這個(gè)技術(shù)，他有可能把這個(gè)當(dāng)成事實(shí)，會(huì)造成一些負(fù)面的影響。

《中華人民共和國(guó)民法典》對(duì)肖像權(quán)和聲音權(quán)的保護(hù)作出了明確規(guī)定。中國(guó)政法大學(xué)人工智能法研究院院長(zhǎng)張凌寒表示，人臉、人聲等都是具有生物識(shí)別功能的敏感個(gè)人信息。未經(jīng)授權(quán)的深度合成，侵犯了當(dāng)事人的人格權(quán)益。

中國(guó)政法大學(xué)人工智能法研究院院長(zhǎng) 張凌寒：

未經(jīng)他人授權(quán)直接使用相關(guān)權(quán)利人的肖像和聲音，侵害了當(dāng)事人的人格權(quán)，其中包括肖像權(quán)、聲音權(quán)。聲音的權(quán)利也參照肖像權(quán)保護(hù)的相關(guān)規(guī)定。那么如果合成的聲音可能涉及造成他人侮辱、誹謗，損害他人聲譽(yù)，可能構(gòu)成名譽(yù)權(quán)侵權(quán)。如果使用的聲音來(lái)自受著作權(quán)保護(hù)的錄音制品和作品，或者說(shuō)他人聲音已經(jīng)被注冊(cè)為商標(biāo)了，那可能還涉及侵害著作權(quán)和商標(biāo)權(quán)等。如果使用他人聲音，又沒(méi)有經(jīng)過(guò)他人同意，這也是違反了行政法規(guī)的相關(guān)規(guī)定。

此外，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也明確，提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示使用者依法告知被編輯個(gè)人，并取得其單獨(dú)同意。

記者搜索了AI名人拜年等相關(guān)模板的授權(quán)情況，其中，一些官方賬號(hào)發(fā)布的短視頻標(biāo)注了已獲授權(quán)，但大量用戶自行生成的拜年內(nèi)容，難以判斷其合規(guī)性。某視頻制作應(yīng)用功能使用規(guī)范中明確，不得輸入、分享任何未經(jīng)授權(quán)的內(nèi)容，不得侵害他人的著作權(quán)、專利權(quán)、商標(biāo)權(quán)、肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)等。

有短視頻平臺(tái)也對(duì)涉及利用AI生成知名運(yùn)動(dòng)員形象進(jìn)行虛假仿冒等違規(guī)內(nèi)容進(jìn)行過(guò)處理，但海量審核、用戶規(guī)避等原因，仍然讓治理在執(zhí)行層面存在“防不勝防”的現(xiàn)實(shí)困境。

數(shù)字經(jīng)濟(jì)學(xué)者 劉興亮：

現(xiàn)在正規(guī)的大型AI服務(wù)平臺(tái)和一些專業(yè)的視頻合成工具，已經(jīng)開(kāi)始嘗試加入一些防止濫用的機(jī)制。比如強(qiáng)制添加AI生成標(biāo)識(shí)或者水印，讓觀眾一眼就能分辨出這是合成內(nèi)容。還有在用戶協(xié)議中明確禁止未授權(quán)使用他人的形象和聲音。部分平臺(tái)還在后臺(tái)建立了內(nèi)容檢測(cè)和過(guò)濾機(jī)制，利用AI自身來(lái)識(shí)別疑似深度合成的視頻。但真實(shí)情況是，現(xiàn)在仍然有很多工具沒(méi)有足夠的防護(hù)機(jī)制，特別是一些開(kāi)源模型或者小型應(yīng)用，可能根本沒(méi)有添加標(biāo)識(shí)或者監(jiān)管的限制，這就給濫用留下了空間。

對(duì)于生產(chǎn)、傳播此類內(nèi)容的網(wǎng)絡(luò)平臺(tái)，中國(guó)政法大學(xué)知識(shí)產(chǎn)權(quán)中心特約研究員趙占領(lǐng)表示，必須履行好主體責(zé)任，建立全鏈條管理機(jī)制。

AI的經(jīng)營(yíng)者、平臺(tái)企業(yè)應(yīng)當(dāng)盡到主體責(zé)任，應(yīng)當(dāng)嚴(yán)格落實(shí)相關(guān)的管理辦法所規(guī)定的標(biāo)識(shí)義務(wù)；

要提供便捷的工具，也應(yīng)建立事前提示、事中審核和事后追溯的完整機(jī)制；

在接到權(quán)利人發(fā)出的侵權(quán)通知之后，應(yīng)當(dāng)及時(shí)采取刪除等措施；

如果沒(méi)有采取相應(yīng)措施，應(yīng)當(dāng)就損害擴(kuò)大部分承擔(dān)連帶責(zé)任；

公眾也應(yīng)當(dāng)增強(qiáng)法律意識(shí)。

來(lái)源：中央廣播電視總臺(tái)中國(guó)之聲

編輯：張曉琳

監(jiān)審：張效婧

終審：吳 濤

關(guān)注我們 了解更多

發(fā)布網(wǎng)信政務(wù)信息

解讀網(wǎng)信政策法規(guī)