“我在澳門(mén)輸了十幾個(gè)億”。

綜藝現(xiàn)場(chǎng)，黃曉明突然開(kāi)口說(shuō)出這句話。

王鶴棣、黃子韜等嘉賓瞬間僵住。

幾秒后他補(bǔ)了句：這是AI造的假新聞。

黃曉明靠一句調(diào)侃自證清白，溫崢嶸卻被AI冒充到無(wú)法證明“我是我”，李梓萌更是被偽造形象賣(mài)“神藥”。

靳東的擔(dān)憂(yōu)，終究成了現(xiàn)實(shí)。

這場(chǎng)席卷娛樂(lè)圈的AI仿冒風(fēng)暴，沒(méi)有贏家，只有被消耗的信任和無(wú)故蒙冤的受害者。

2025年3月，一則匿名爆料引爆網(wǎng)絡(luò)。

爆料稱(chēng)某超一線男星在澳門(mén)永利皇宮豪賭七日，輸光10.3億流動(dòng)資產(chǎn)，還抵押了三處豪宅和私人飛機(jī)。

謠言越傳越烈，金額從10.3億漲到20億，甚至有人偽造“國(guó)際金融調(diào)查機(jī)構(gòu)”信源坐實(shí)虛假消息。

彼時(shí)黃曉明正在福建劇組拍戲，網(wǎng)友追問(wèn)他“是不是輸了十幾億”，他僅過(guò)幾分鐘就回復(fù)“歡樂(lè)豆嗎？”，同步曬出劇組日落圖，用福建IP佐證清白。

后續(xù)在綜藝《宇宙閃爍請(qǐng)注意》中，黃曉明揭開(kāi)真相：造謠者徐某強(qiáng)為博流量，用A智慧生成功能制造虛假新聞，最終被行政拘留8日。

黃曉明坦言，AI造假細(xì)節(jié)逼真、傳播極快，一條無(wú)稽之談要費(fèi)盡全力解釋?zhuān)@件事對(duì)自己傷害挺大。

他不是個(gè)例，奧運(yùn)冠軍全紅嬋也未能幸免。

去年下半年，網(wǎng)上出現(xiàn)大量“全紅嬋推薦土雞蛋”的視頻，AI克隆的全紅嬋稱(chēng)吃雞蛋能提升訓(xùn)練狀態(tài)。

騙子還將假全紅嬋與雞蛋的合影印在包裝上擺進(jìn)超市，短短時(shí)間就賣(mài)出四萬(wàn)多件。

全紅嬋的哥哥忍無(wú)可忍出面提醒大家別上當(dāng)。

孫穎莎、王楚欽等乒乓球名將，也被AI編劇本賣(mài)雞蛋，騙子挪用名人形象毫無(wú)底線。

最令人揪心的是央視主持人李梓萌的遭遇。

她的AI克隆體出現(xiàn)在直播間，叫賣(mài)深海多烯魚(yú)油，聲稱(chēng)能改善頭暈手麻、恢復(fù)記憶，還謊稱(chēng)有央視把關(guān)。

直播間背景偽造得和央視演播廳一模一樣，觀眾出于信任紛紛下單，直播間人數(shù)從幾萬(wàn)漲到幾十萬(wàn)，粉絲也新增幾十萬(wàn)。

一位阿姨下單三瓶，吃了半個(gè)月毫無(wú)改善，拆開(kāi)包裝才發(fā)現(xiàn)，產(chǎn)品執(zhí)行標(biāo)準(zhǔn)標(biāo)注的是“糖果類(lèi)”，所謂“神藥”只是普通糖果。

阿姨聯(lián)合其他消費(fèi)者撥打12315舉報(bào)時(shí)，李梓萌還完全不知道自己被“克隆”了。

溫崢嶸的AI仿冒騙局，更顯荒誕。

她從山區(qū)走出，家境不富裕，憑《千山暮雪》、《漁島怒潮》等作品成名，演戲23年無(wú)任何負(fù)面緋聞。

去年，她與趙露思、陳偉霆合作《許我耀眼》爆火，劇中“毒辣婆婆”于嵐一角圈粉無(wú)數(shù)。

戲外的她低調(diào)真誠(chéng)，常開(kāi)直播和粉絲聊天，3小時(shí)直播峰值達(dá)86萬(wàn)人次，全程不收禮、不帶貨。

走紅熱度還未散去，AI仿冒者就找上門(mén)來(lái)。

溫崢嶸深夜刷手機(jī)時(shí)，看到一個(gè)和自己一模一樣的人在帶貨，她沖進(jìn)直播間質(zhì)問(wèn)“你是溫崢嶸，我是誰(shuí)”，卻被對(duì)方秒拉黑。

多個(gè)平臺(tái)、多個(gè)時(shí)間段，都有不同妝發(fā)的“溫崢嶸”帶貨，護(hù)膚品、零食各不相同，話術(shù)卻完全一致，粉絲發(fā)現(xiàn)這些“溫崢嶸”說(shuō)話口型總對(duì)不上。

早在去年4月，溫崢嶸就發(fā)視頻打假，明確自己只有一個(gè)直播賬號(hào)，從未授權(quán)任何商家?guī)ж洝?/strong>

但仿冒賬號(hào)越打越多，她和團(tuán)隊(duì)每天要舉報(bào)十幾個(gè)，消費(fèi)者買(mǎi)到貨不對(duì)板的產(chǎn)品，還會(huì)將怒火發(fā)泄到溫崢嶸身上，讓她陷入“難以自證”的困境。

溫崢嶸的遭遇，早在靳東的預(yù)料之中。

靳東憑借《偽裝者》明樓、《瑯琊榜》藺晨等角色，成為媽媽輩的“理想偶像”，這份高國(guó)民度讓他成為AI仿冒騙局的早期受害者。

騙子用AI換臉，讓“靳東”對(duì)中老年粉絲說(shuō)肉麻告白，以戀愛(ài)為名誘導(dǎo)阿姨們買(mǎi)產(chǎn)品、轉(zhuǎn)賬，有61歲阿姨甚至離家出走，最終血本無(wú)歸。

靳東震怒，第一時(shí)間發(fā)聲明打假，聯(lián)合平臺(tái)清理仿冒賬號(hào)，反復(fù)提醒中老年觀眾自己從未私下聯(lián)系粉絲。

仿冒賬號(hào)雖被大量清理，靳東卻始終憂(yōu)心忡忡，擔(dān)心AI技術(shù)門(mén)檻降低、監(jiān)管跟不上，騙局會(huì)卷土重來(lái)。

去年3月，作為全國(guó)政協(xié)委員，靳東在政協(xié)小組討論上發(fā)聲，提及有觀眾被AI換臉視頻騙得很慘，呼吁建立更完善的規(guī)則遏制亂象。

彼時(shí)很多人不以為然，如今再看，他的擔(dān)憂(yōu)不是多余。

李梓萌得知自己被AI克隆后十分懵圈，團(tuán)隊(duì)迅速發(fā)布聲明澄清，還聘請(qǐng)了律師，央視也出面證實(shí)，李梓萌當(dāng)時(shí)正在籌備新節(jié)目，從未直播帶貨。

作為新聞聯(lián)播主持人，如今被騙子盜用形象賣(mài)假貨，滿(mǎn)心憋屈。

李梓萌的案子，成為國(guó)內(nèi)第一個(gè)AI虛假?gòu)V告案。

北京海淀區(qū)市場(chǎng)監(jiān)管局接到舉報(bào)后立即調(diào)查，工作人員調(diào)出直播間錄像，發(fā)現(xiàn)人臉和聲音都是李梓萌的，但細(xì)節(jié)破綻明顯：口型對(duì)不上、偶爾出現(xiàn)亂碼，臉上光影極其虛假。

調(diào)查組聯(lián)系央視后確認(rèn)，這是AI合成的“數(shù)字人”，騙子從網(wǎng)上收集李梓萌的新聞片段，提取面部特征、表情和語(yǔ)調(diào)，偽造央視背景騙錢(qián)。

國(guó)家迅速出手，抓獲所有涉案人員并罰款，同時(shí)要求直播平臺(tái)升級(jí)技術(shù)，自動(dòng)識(shí)別AI合成內(nèi)容，主播必須實(shí)名登記，從源頭遏制亂象。

溫崢嶸的騙局曝光后，央視直接下場(chǎng)揭秘，2025年10月，平臺(tái)啟動(dòng)AI仿冒專(zhuān)項(xiàng)治理。

平臺(tái)明確處罰規(guī)則：查實(shí)后立即中斷直播、凍結(jié)成交金額，下架相關(guān)商品和視頻，關(guān)閉商品分享權(quán)限，情節(jié)嚴(yán)重的直接封禁店鋪。

央視還曝光了騙子的常用套路：有的用AI深度偽造名人肖像和聲音帶貨，有的用特效制作高度相似的卡通形象仿冒明星，這些套路終究逃不過(guò)監(jiān)管和平臺(tái)的排查。

目前，溫崢嶸的AI仿冒鬧劇已逐漸平息，黃曉明成功自證清白，李梓萌的名譽(yù)也逐步恢復(fù)，騙子都得到了應(yīng)有的懲罰。

但這場(chǎng)風(fēng)暴留下的隱患，遠(yuǎn)未消除。

AI技術(shù)門(mén)檻持續(xù)降低，造假成本越來(lái)越低，騙子的套路不斷翻新，從帶貨、造謠延伸到情感詐騙。

中老年群體對(duì)新技術(shù)不熟悉，成為主要受害者，年輕人偶爾也會(huì)被逼真的AI合成內(nèi)容誤導(dǎo)。

更嚴(yán)重的是，AI仿冒正在透支公眾的信任：粉絲不再輕易相信屏幕里的明星，消費(fèi)者對(duì)直播帶貨行業(yè)產(chǎn)生質(zhì)疑，那些真正用心做內(nèi)容、做直播的人，也跟著背鍋。

平臺(tái)技術(shù)升級(jí)和監(jiān)管持續(xù)發(fā)力，是遏制亂象的關(guān)鍵，但技術(shù)永遠(yuǎn)在發(fā)展，騙子的手段也會(huì)不斷升級(jí)。

AI本身沒(méi)有對(duì)錯(cuò)，錯(cuò)的是利用技術(shù)非法牟利的人。

它可以是提升效率、便利生活的工具，也可以是傷害他人、收割信任的利器。

明星被動(dòng)卷入無(wú)妄之災(zāi)，耗費(fèi)精力自證清白、名譽(yù)受損；普通消費(fèi)者被虛假信息誤導(dǎo)，財(cái)產(chǎn)遭受損失。

我們不得不思考，技術(shù)發(fā)展的底線到底在哪里。