作品聲明：內(nèi)容取材于網(wǎng)絡(luò)

鏡頭前的李梓萌，曾為貼合《新聞聯(lián)播》的莊重感，戴了多年沉悶的假發(fā)套。

九十年代末拿著千元工資的她，因讀錯(cuò)一個(gè)字就要被罰兩百元，被倪萍調(diào)侃“貸款上班”。

這份用幾十年如履薄冰換來(lái)的“國(guó)臉”公信力，卻在2025年被AI技術(shù)輕易竊取，淪為不法商家的斂財(cái)?shù)谰摺?/p>

從央視主播到奧運(yùn)冠軍，從醫(yī)學(xué)專(zhuān)家到普通消費(fèi)者，這場(chǎng)AI合成技術(shù)引發(fā)的信任危機(jī)，正在悄然改寫(xiě)網(wǎng)絡(luò)空間的規(guī)則。

看似高科技的背后，是幾百元軟件就能操作的騙局，更是對(duì)公眾信任底線(xiàn)的公然挑釁。

李梓萌“被帶貨”賣(mài)糖果

2025年2月，一場(chǎng)毫無(wú)征兆的風(fēng)波打破了網(wǎng)絡(luò)平靜。直播間里，“李梓萌”身著職業(yè)西裝、妝容精致，用標(biāo)志性的播音腔向幾十萬(wàn)觀(guān)眾推銷(xiāo)“深海多烯魚(yú)油”。

她表情嚴(yán)肅地聲稱(chēng)，這款產(chǎn)品能治療頭暈頭痛、緩解手麻腳麻，甚至改善記憶力下降。

背景板上“權(quán)威推薦”四個(gè)大字，搭配央視主播的公信力加持，讓不少中老年人瞬間放下戒備，紛紛下單。

可收到包裹后大家才發(fā)現(xiàn)，產(chǎn)品包裝背面的執(zhí)行標(biāo)準(zhǔn)赫然寫(xiě)著“糖果”——這只是一款普通食品，根本不具備任何治療功效。憤怒的投訴如雪片般涌向監(jiān)管部門(mén)。

海淀區(qū)市場(chǎng)監(jiān)管局介入調(diào)查后，真相浮出水面：李梓萌從未參與過(guò)該直播，視頻中的“她”是AI技術(shù)合成的數(shù)字克隆人。

涉事公司從網(wǎng)絡(luò)搜集了十幾張李梓萌的高清公開(kāi)照片，用幾百元就能買(mǎi)到的AI換臉和聲音合成工具，不到兩小時(shí)就完成了制作。

這個(gè)擁有88萬(wàn)粉絲的賬號(hào)，靠著虛假宣傳瘋狂牟利，直至2025年6月被依法查處，成為北京首例濫用AI技術(shù)發(fā)布虛假?gòu)V告案。

最終，涉事公司因違反《廣告法》接受行政處罰，賬號(hào)被永久封禁。

奧運(yùn)冠軍集體“躺槍”

AI騙局的魔爪并未止步于央視主播，奧運(yùn)冠軍們的名譽(yù)也遭到瘋狂收割。

2025年4月起，多個(gè)社交平臺(tái)出現(xiàn)假賬號(hào)，截取全紅嬋的賽后采訪(fǎng)片段，用AI合成她的聲音和形象，推銷(xiāo)土雞蛋、蜂蜜等產(chǎn)品。

視頻里，“全紅嬋”操著帶廣東口音的普通話(huà)賣(mài)慘：“這是我老家的土雞蛋，幫家人賺點(diǎn)錢(qián)”。

這種拙劣腳本搭配奧運(yùn)冠軍的純樸形象，讓不少老年粉絲心軟下單�？闪淤|(zhì)貨品送達(dá)后，買(mǎi)家紛紛把矛頭指向全紅嬋一家，認(rèn)為她借名氣斂財(cái)。

不堪其擾的全紅嬋媽媽?zhuān)?月29日公開(kāi)澄清，強(qiáng)調(diào)家人從未參與任何代言或帶貨，所有相關(guān)視頻都是偽造。

但辟謠并未遏制亂象，7月至8月，類(lèi)似虛假視頻反復(fù)出現(xiàn)，甚至有賬號(hào)用AI合成孫穎莎、王楚欽的形象“助陣”，還通過(guò)水軍刷彈幕營(yíng)造熱銷(xiāo)假象。

人民日?qǐng)?bào)8月發(fā)文點(diǎn)名批評(píng)這種行為，指出其侵犯了名人肖像權(quán)和消費(fèi)者權(quán)益，違背了商業(yè)倫理。

無(wú)差別收割

不僅是公眾人物，專(zhuān)業(yè)人士也未能幸免。網(wǎng)絡(luò)上流傳的一段短視頻中，“張文宏醫(yī)生”正在推銷(xiāo)蛋白棒，聲稱(chēng)產(chǎn)品能“增強(qiáng)免疫力”“適合日常補(bǔ)充”，完全背離了他的專(zhuān)業(yè)身份。

有細(xì)心網(wǎng)友發(fā)現(xiàn)，視頻中的“張文宏”畫(huà)面模糊，嘴唇開(kāi)合與說(shuō)話(huà)內(nèi)容存在明顯時(shí)差，手勢(shì)節(jié)奏也完全對(duì)不上。

張文宏本人隨后澄清，確認(rèn)視頻系A(chǔ)I合成，并非自己參與錄制。據(jù)網(wǎng)友反饋，涉事賬號(hào)的商品櫥窗顯示，這款蛋白棒已售出1180件，直至被微信平臺(tái)永久封禁。

律師明確指出，這種行為已侵犯他人肖像權(quán)，若造成損害需承擔(dān)賠償責(zé)任。更值得警惕的是，AI技術(shù)的濫用已呈現(xiàn)無(wú)差別化趨勢(shì)。

無(wú)論你是代表公信力的主播、國(guó)民好感的運(yùn)動(dòng)員，還是象征專(zhuān)業(yè)權(quán)威的醫(yī)生，只要有知名度，就可能成為黑產(chǎn)眼中的“流量素材”。

AI合成內(nèi)容必須顯式標(biāo)注

AI亂象的蔓延，終于觸發(fā)了監(jiān)管的重拳出擊。針對(duì)一系列AI虛假帶貨事件，國(guó)家層面迅速完善政策法規(guī)，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》自2025年9月1日起施行，要求所有AI生成合成內(nèi)容必須添加顯式標(biāo)識(shí)，從源頭遏制虛假信息傳播。

在此之前，北京、上海等城市已開(kāi)展“AI亂象整治專(zhuān)項(xiàng)行動(dòng)”，嚴(yán)查利用AI技術(shù)進(jìn)行虛假宣傳的行為。央視《新聞+》等節(jié)目也專(zhuān)題曝光相關(guān)案例，法律專(zhuān)家解讀稱(chēng)，AI仿冒帶貨不僅侵犯肖像權(quán)和聲音權(quán)，更是赤裸裸的商業(yè)欺詐。

各大網(wǎng)絡(luò)平臺(tái)也強(qiáng)化了審核機(jī)制，對(duì)未按要求標(biāo)注的合成內(nèi)容，采取限制流量、直接下架等處置措施。

這些舉措正在顯現(xiàn)成效：截至2025年10月，專(zhuān)項(xiàng)行動(dòng)已查處20多起類(lèi)似案件，封禁違規(guī)賬號(hào)50余個(gè)。曾經(jīng)幾百元就能作惡的低成本騙局，如今面臨著高額罰款、賬號(hào)封禁甚至刑事追責(zé)的高代價(jià)。

技術(shù)本身沒(méi)有對(duì)錯(cuò)，AI合成可以用于電影特效、虛擬醫(yī)療等正當(dāng)領(lǐng)域，但當(dāng)它被當(dāng)作割韭菜的鐮刀，就必須受到法律的約束。

李梓萌用幾十年苦練換來(lái)的公信力，全紅嬋用汗水贏得的國(guó)民好感，張文宏用專(zhuān)業(yè)積累的權(quán)威形象，都不該被幾行代碼輕易竊取。

結(jié)語(yǔ)

如今再刷直播間，不妨多留意畫(huà)面上的“虛擬合成”標(biāo)識(shí)。

AI技術(shù)沖擊下，信任的裂痕或許難以避免，但法律與監(jiān)管的及時(shí)補(bǔ)網(wǎng)，正在幫我們分清屏幕對(duì)面是有血有肉的人，還是冰冷的數(shù)據(jù)。

這不僅是在保護(hù)公眾人物的權(quán)益，更是在守護(hù)每一個(gè)普通人的錢(qián)包與信任，讓技術(shù)真正服務(wù)于人，而非成為作惡的工具。

信息來(lái)源：