奧運(yùn)冠軍、實(shí)力演員、央視主持、知名醫(yī)生……

AI合成技術(shù)越來越高的同時(shí)，受牽連的名人、遭欺騙的消費(fèi)者也越來越多。

從最初的“機(jī)械化音頻”，到現(xiàn)在的真假難辨，曾以為不會(huì)被AI欺騙的年輕網(wǎng)友，都有些恍惚，只怕自己也上當(dāng)受騙。

那么，AI合成詐騙的風(fēng)氣是何時(shí)開始，又是怎么“壯大”的呢？這場波及全平臺(tái)的鬧劇，何時(shí)才能結(jié)束？

虛假帶貨

自從全紅嬋成為新星后，圍繞在她身邊的爭議太多了，就連她的至親都深受牽連，無一例外。

圍堵在家門口的、調(diào)查航班信息的、扒出過往經(jīng)歷的、現(xiàn)場伸出“咸豬手”的，數(shù)不勝數(shù)。

開心奪冠的時(shí)候，有人罵她像個(gè)“白癡”，到了狀態(tài)下滑的階段，又有人追著“唱衰”。

最可恨的，當(dāng)屬利用她的形象搞詐騙的無良商家，通過AI手段欺騙善良的中老年消費(fèi)者。

中老年消費(fèi)者分不清AI和現(xiàn)實(shí)，誤以為她家里真的生活困難，不得不幫家里賣農(nóng)產(chǎn)品。

下單的時(shí)候，恐怕還覺得自己幫了她一把，沒想到辛苦賺來的錢，落入了無良商家的口袋。

不僅她成了“帶貨工具”，她的家人也沒有逃過被利用的命運(yùn)，全家人齊上陣當(dāng)“代言人”。

無良商家借此機(jī)會(huì)，賺得盆滿缽滿，所有的罵名，則是由她一人承擔(dān)，這對(duì)她很不公平。

要說最離譜的，還得是同時(shí)現(xiàn)身八個(gè)直播間的溫崢嶸，她雖然也打廣告，但是絕不會(huì)同時(shí)在八個(gè)直播間賣貨。

這些無良商家仗著平臺(tái)監(jiān)管不力，肆無忌憚地將她的形象，放在直播間里，讓她無償幫忙帶貨，并承擔(dān)責(zé)任。

等她發(fā)現(xiàn)的時(shí)候，已經(jīng)來不及了，很多消費(fèi)者都已經(jīng)上當(dāng)，可是損失不能由她來彌補(bǔ)，她也無可奈何。

除了全紅嬋和溫崢嶸之外，還有很多名人深受牽連，其實(shí)無良商家采取的套路是一樣的，并不算高明，只是中老年消費(fèi)者弄不明白AI，才會(huì)相信虛假廣告，毫無戒備地掉入圈套。

平臺(tái)監(jiān)管一直不力，相關(guān)部門也遲遲沒有出手，波及的范圍只會(huì)越來越廣，就連央視在職主持人都成了無良商家的“目標(biāo)”，再一次印證了“AI風(fēng)波”有多可怕。

風(fēng)波不斷

與諸多出走的央視女主持不同，李梓萌這些年兢兢業(yè)業(yè)，從來沒有掉過鏈子。

央視的要求本來就嚴(yán)格，她剛到央視工作的時(shí)候，經(jīng)常讀錯(cuò)字，每次都被罰錢。

有傳聞稱她“貸款上班”，這是調(diào)侃她讀錯(cuò)了太多字，實(shí)際情況肯定沒這么夸張。

作為“女版康輝”，只要她想，一定能在短視頻平臺(tái)大展拳腳，可她并沒有這樣做。

短視頻平臺(tái)，也沒打算放過“安分守己”的她，無良商家竟然打起了她的算盤。

當(dāng)她的臉出現(xiàn)在直播間時(shí)，不少消費(fèi)者都被蒙騙了，誤以為“女版康輝”也開始帶貨了。

直播間里她的臉，是從《新聞聯(lián)播》的畫面中“摳”下來的，背景都一模一樣。

她的聲音，則是通過AI合成，漂亮的音色是她的，內(nèi)容則是商家寫的宣傳語。

網(wǎng)速快的年輕群體，很容易發(fā)現(xiàn)問題所在，雖說口型和聲音能對(duì)上，但是語氣很不自然。

再者說了，《新聞聯(lián)播》的背景出現(xiàn)在直播間，一眼就能看出是假的，只是老年網(wǎng)友分不清。

在電視機(jī)前看《新聞聯(lián)播》的老年觀眾，都相信了她是“魚油代言人”，激情下單。

回過神來才知道，一切都是假的，臉是摳的、圖是P的、聲音是合成的，嘴型也是AI的。

一直沒有創(chuàng)建個(gè)人賬號(hào)，平時(shí)生活又低調(diào)，她一直沒辦法“有效辟謠”。

幫她澄清的，都是熱心的年輕網(wǎng)友，只是舉報(bào)到處理都需要時(shí)間，效率并不高。

平臺(tái)監(jiān)管不力，仍由AI合成視頻肆無忌憚地搞虛假宣傳，顯然應(yīng)該承擔(dān)責(zé)任。

只可惜“裝睡”的平臺(tái)，誰都叫不醒，AI帶來的巨大利益，平臺(tái)當(dāng)然不愿意錯(cuò)過。

官方出手

央視主持都成了騙子牟利的工具，官方若是再不出手，恐怕說不過去了。

在警方的全力追查下，制作相關(guān)虛假AI帶貨視頻的團(tuán)隊(duì)，直接被“一鍋端”。

從策劃人員到技術(shù)人員，無一幸免，就連涉事的賬號(hào)，也被直接封禁。

官方出手的效果顯著，從那之后，類似的案例極為少見，風(fēng)口浪尖上，誰都不敢放肆。

無良商家都接受了懲罰，平臺(tái)也不能不改變，按照官方要求，平臺(tái)必須仔細(xì)甄別內(nèi)容形式。

發(fā)現(xiàn)一丁點(diǎn)AI的痕跡，都要在視頻下方，作出明顯的標(biāo)注，算是給消費(fèi)者提一個(gè)醒。

若是平臺(tái)已經(jīng)盡到了監(jiān)管責(zé)任，也標(biāo)注得很明白了，還有人上當(dāng)受騙，那就是自己的問題。

同時(shí)，針對(duì)無辜受牽連的名人的網(wǎng)暴，也該停下來了，他們從頭到尾都沒有參與過詐騙，消費(fèi)者被騙走的錢，也沒有掉入他們的口袋，他們憑什么遭受網(wǎng)暴呢？

那些要求他們賠償損失的言論，更是不必提了，就算名人的收入高，也不該為平臺(tái)的錯(cuò)誤買單，與其找他們的麻煩，不如跟平臺(tái)談?wù)?，如何追回?fù)p失，或是稍加彌補(bǔ)。

如今經(jīng)濟(jì)大環(huán)境并不好，賺錢如此辛苦，更要看好自己的錢包，不能用自己的血汗錢，充實(shí)騙子的錢包，還是要仔細(xì)甄別，否則吃虧的就是自己。

官方也要繼續(xù)加大追查力度，平臺(tái)更要積極配合，提供有效的線索，有可能追回的損失，一定要努力追回來，不能讓信任平臺(tái)的消費(fèi)者寒了心。

AI本身是對(duì)日常生活和工作有利的工具，如今演變成詐騙利器，實(shí)在不應(yīng)該，一次又一次的風(fēng)波，只會(huì)讓大眾對(duì)AI產(chǎn)生戒備，擾亂社會(huì)秩序。

既然AI的進(jìn)化是必然，那就想盡一切辦法，打擊居心叵測的不良分子，只有監(jiān)管嚴(yán)了、懲處力度強(qiáng)了，才能震懾住他們，才能還AI創(chuàng)作者一片凈土。