AI科技的發(fā)展本是時代科技的進步。

但是有人卻利用科技卻干起壞事，真的讓人防不勝防。

央視李梓萌成受害者

10月15日，央視報道北京市場監(jiān)管部門查處了首例利用AI技術(shù)進行虛假廣告宣傳的案件。

而這起AI虛假廣告的受害人，竟然是著名的央視主持人李梓萌。

李梓萌作為央視的當家門面，主持新聞聯(lián)播，憑借央視的公信力和自身的國民喜愛度，形象非常受認可。

今年2月份，某些平臺的視頻中出現(xiàn)了李梓萌帶貨深海魚油的視頻。

該視頻用李梓萌的個人視頻畫面，搭配李梓萌的聲音，聲情并茂地介紹這款深海魚油。

用李梓萌的聲音播報這款魚油適合頭暈頭痛、手麻腳麻、記憶下降等人群。

很多上了年紀的老人一看，這是央視主持人李梓萌啊，她都親自推薦這款魚油，那肯定有用的。

而且產(chǎn)品設置的價格大概在幾十到一兩百之間，大部分人消費得起。

于是這些單純的大爺大媽紛紛下單購買。

可是買回去后，大家也發(fā)現(xiàn)不對勁了，這吃著很像普通糖果，而且也沒對疾病起到任何作用啊。

于是群眾就舉報到北京市場監(jiān)管局了。

這一查下去，才發(fā)現(xiàn)有大貓膩。

辦案人員鎖定了北京某公司，發(fā)現(xiàn)該公司在擁有88萬粉絲的賬號直播間，公然吹噓深海魚油各種功效。

而且直播中還出現(xiàn)了中央廣播電視總臺主持人李梓萌的形象。

經(jīng)過立案調(diào)查，該公司銷售的深海多烯魚油產(chǎn)品，實際執(zhí)行標準為糖果，沒任何功效。

而且經(jīng)過鑒定，視頻中的主持人形象完全是利用AI技術(shù)偽造生成。

騙子利用大眾抗疾病的心理，把糖果高價買成保健品，而且吃了糖果也沒有副作用，也不怕鬧出什么大事。

公然利用央視李梓萌這一行為更是膽大包天。

騙子企圖利用李梓萌形象換取產(chǎn)品推銷的公信力，殊不知這反而會讓他們更快被盯上。

全紅嬋成受害“重災區(qū)”

這一兩年來，AI仿冒名人帶貨的亂象層出不窮。

全紅嬋作為國民跳水女兒，憑借親和的長相和體育實力，獲得全國人民的喜愛。

而騙子就是利用大眾對嬋寶的喜愛，用高科技將全紅嬋“偷臉盜聲”去騙錢。

有騙子利用全紅嬋賣蜂蜜，還有個騙子賬號所有視頻AI仿冒全紅嬋視頻賣土雞蛋。

聲音和全紅嬋太像了，而且話術(shù)也很高明。

“嬋寶今天有事想請大家?guī)兔?，嬋妹就想著幫助媽媽，讓家里的生活過得更好一點。今天讓媽媽先拿出300單老家的土雞蛋給大家放福利?！?/p>

這種話術(shù)利用全紅嬋普通人家孩子出生，努力為家人提升生活水平的勵志話語，消費大眾的同情心。

不僅如此，這個賬號的騙子還戴著口罩戴墨鏡，模仿全紅嬋的爸爸媽媽和哥哥，在直播間賣雞蛋。

這是明目張膽的犯罪行為。

騙子利用全紅嬋聲音還不夠，還肆無忌憚AI仿冒奧運冠軍孫穎莎和王楚欽的聲音，助力“全紅嬋賣土雞蛋”。

孫穎莎和王楚欽的AI聲音說嬋寶私信他們，讓他們幫忙宣傳，這么好的土雞蛋賣不出去可惜了。

騙子之所以選擇全紅嬋、孫穎莎和王楚欽，就是因為這幾個人的國民知名度和喜愛度非常高。

不知情的網(wǎng)友一看是自己喜愛的奧運健兒在推薦，紛紛下單購買，一下子賣出去幾萬單。

除了賣貨，社交平臺上還出現(xiàn)多個賬號使用AI合成全紅嬋爸爸、哥哥聲音，用完全相同的文案介紹全紅嬋家里要蓋新房的信息，以此來博取流量。

這種欺騙，消耗的是整個社會的誠信基礎。

面對侵權(quán)，受害者本人維權(quán)非常困難。

全紅嬋的哥哥和爸爸無奈表示，平臺上的仿冒賬號“一大堆，告都告不過來”，他們一家人也很苦惱。

法律紅線

北京知名法學教授表示，利用人工智能合成的聲音，如果能根據(jù)他的音色以及風格關聯(lián)到規(guī)定自然人，那么就具有了法律上認定的可識別性，已經(jīng)構(gòu)成對他人的侵權(quán)行為。

而且我國《民法典》已經(jīng)明確規(guī)定，自然人的聲音受法律保護，參照肖像權(quán)。

對于膽敢侵權(quán)的不法分子，必須要讓他們付出沉重的代價。

還有平臺也有很大責任，不能對這類侵權(quán)內(nèi)容睜一只眼閉一只眼。

平臺必須利用技術(shù)手段加強審核，建立快速響應的侵權(quán)舉報和處理機制。

咱們作為普通人，自身要提高警惕。

看到“名人”帶貨，尤其是宣傳些匪夷所思的“福利”時，多留個心眼辨真?zhèn)?，防止上當受騙。

技術(shù)本身沒有對錯，但它確實像一面鏡子，照出了使用它的人內(nèi)心的善惡。

從全紅嬋到李梓萌，警鐘已經(jīng)一次次敲響。

希望在各方的共同努力下，能盡快遏制住這股歪風。

讓AI這類新技術(shù)，真正用于服務我們的生活，而不是成為騙子手中收割信任的工具。

備注：本文內(nèi)容均來自央視權(quán)威信息