齊魯晚報(bào)·齊魯壹點(diǎn) 李苗 徐寧

“你是溫崢嶸，那我是誰？”2025年，演員溫崢嶸陷入一場特殊的“身份危機(jī)”。

社交平臺(tái)上，多個(gè)“溫崢嶸”的帶貨視頻和直播接連出現(xiàn)，盡管溫崢嶸本人多次澄清，但逼真的AI合成效果仍讓不少網(wǎng)友信以為真，這場“證明我是我”的維權(quán)之戰(zhàn)，折射出AI技術(shù)普及背后的治理困境。

演員溫崢嶸同時(shí)現(xiàn)身多個(gè)直播間？

近期，在社交媒體上，有網(wǎng)友發(fā)現(xiàn)演員溫崢嶸同時(shí)“現(xiàn)身”三個(gè)不同直播間，身著不同服裝推廣著不同產(chǎn)品，動(dòng)作、神態(tài)與本人高度相似，這一情況迅速引發(fā)全網(wǎng)熱議。

溫崢嶸并無分身之術(shù)。這些直播間出現(xiàn)的“溫崢嶸”，均非本人出鏡。此類內(nèi)容或是AI合成的虛假直播，或是盜播、錄播其過往視頻片段�！斑@些產(chǎn)品我們根本就沒有推薦過，也沒有賣過�！睖貚槑V團(tuán)隊(duì)工作人員說。

其實(shí)，早在今年4月，就已出現(xiàn)多個(gè)“溫崢嶸”同一時(shí)段現(xiàn)身直播間的情況，不同妝發(fā)搭配不同產(chǎn)品推廣，“說著同樣的話”。

溫崢嶸稱，自己有一次拍完戲回到家中，當(dāng)時(shí)并沒有在直播，結(jié)果刷手機(jī)正好看到“自己在直播”。她在該直播間留言質(zhì)問“你是溫崢嶸，那我是誰”，結(jié)果反被對方拉黑禁言。

“我現(xiàn)在就很難證明我是我�！睖貚槑V坦言，AI合成的虛假內(nèi)容極易混淆大眾視聽，她最擔(dān)憂的是信任自己的觀眾會(huì)因此買到假貨。

為減少假冒直播帶來的不良影響，溫崢嶸本人多次澄清，在自己的賬號(hào)主頁標(biāo)注“除了本賬號(hào)直播，其他賬號(hào)均為假冒”，并呼吁粉絲甄別真?zhèn)巍⒓皶r(shí)投訴舉報(bào)假冒內(nèi)容。

AI虛假帶貨引發(fā)信任危機(jī)

盜播和AI仿冒直播，讓網(wǎng)友無從分辨真假，憤怒又擔(dān)憂。“看著就是溫崢嶸本人，怎么會(huì)是假的？”“明星都難以自證清白，普通人遇到這種情況該怎么辦？”

隨著生成式AI技術(shù)快速發(fā)展，偽造門檻已大幅降低。山東大學(xué)軟件學(xué)院教授葛春鵬指出，自媒體僅需獲取溫崢嶸的視頻片段，借助AI工具，就能快速生成與本人出鏡別無二致的直播畫面，從選品介紹到互動(dòng)話術(shù)也高度仿真。

此外，葛春鵬稱，偽造者還通過裁剪畫面、放大圖像等方式去除AI生成標(biāo)識(shí)，進(jìn)行跨平臺(tái)傳播，進(jìn)一步增加識(shí)別難度。

面對泛濫的虛假內(nèi)容，溫崢嶸團(tuán)隊(duì)發(fā)現(xiàn)后便進(jìn)行持續(xù)舉報(bào)，但仍防不勝防。

據(jù)其工作人員介紹，一天內(nèi)他們曾集中舉報(bào)50個(gè)假冒賬號(hào)，這些造假賬號(hào)有的會(huì)被平臺(tái)下架處理，但不少賬號(hào)在下架后又更換形式重新上線。生成虛假內(nèi)容容易，“但取證卻要花費(fèi)很大精力。”

山東誠信人律師事務(wù)所合伙人、副主任律師趙光緒表示，未經(jīng)本人許可，通過AI技術(shù)制作他人虛假帶貨內(nèi)容，且具有盈利屬性，構(gòu)成肖像權(quán)侵權(quán)，且主觀惡意較為明顯。同時(shí)，當(dāng)事人并無推薦該產(chǎn)品，相關(guān)方利用AI虛構(gòu)事實(shí)的行為，還涉嫌虛假宣傳。

AI侵權(quán)亂象應(yīng)如何治理？

“AI的攻與防，是一個(gè)螺旋式生長的過程�！备鸫葫i解釋，當(dāng)前針對AI生成的部分內(nèi)容，已有相應(yīng)檢測方法能夠有效識(shí)別。但新的偽造手段會(huì)隨之出現(xiàn)，新的檢測方法也會(huì)應(yīng)運(yùn)而生。

葛春鵬認(rèn)為，此類檢測技術(shù)需專業(yè)人員操作，普通人僅憑視頻畫面，難以分辨真?zhèn)�，要證明“我是我”更是難度極大，“若讓每人都背負(fù)這一沉重負(fù)擔(dān)，AI的發(fā)展也將受限�！�

針對此類亂象，監(jiān)管部門已出臺(tái)治理措施。國家網(wǎng)信辦聯(lián)合多部門共同發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，明確要求AI生成的肖像、視頻需標(biāo)注“AI生成”。

“治理AI偽造不能僅靠技術(shù)，需管理和技術(shù)雙管齊下�！备鸫葫i指出，數(shù)字水印、隱形標(biāo)簽等溯源技術(shù)已較為成熟，平臺(tái)應(yīng)不斷升級檢測技術(shù)，對上傳內(nèi)容進(jìn)行實(shí)時(shí)篩查，并嚴(yán)格執(zhí)行網(wǎng)信辦相關(guān)要求，從源頭遏制虛假內(nèi)容傳播。

趙光緒建議，消費(fèi)者可以先向平臺(tái)投訴，平臺(tái)拒不履行監(jiān)管義務(wù)則需承擔(dān)連帶責(zé)任。監(jiān)管部門可借助技術(shù)手段實(shí)時(shí)處理投訴、發(fā)現(xiàn)假冒行為；技術(shù)手段無法解決的問題，則可通過法律途徑處理。

“這是一個(gè)新興事物，當(dāng)前相關(guān)治理處于摸索階段。既要保障AI的健康發(fā)展，也要盡可能解決相關(guān)問題，通過法律手段引導(dǎo)其向正向方向發(fā)展�！壁w光緒說。

新聞線索報(bào)料通道：應(yīng)用市場下載“齊魯壹點(diǎn)”APP，或搜索微信小程序“齊魯壹點(diǎn)”，全省800位記者在線等你來報(bào)料！