AI“投毒”不僅侵害消費(fèi)者權(quán)益、擾亂市場(chǎng)秩序，還可能對(duì)國(guó)家政治安全、數(shù)據(jù)安全、社會(huì)安全等造成系統(tǒng)性、長(zhǎng)期性危害。

所謂“數(shù)據(jù)投毒”，是通過向AI大模型訓(xùn)練數(shù)據(jù)中注入偽裝成正常樣本的惡意數(shù)據(jù)，實(shí)現(xiàn)削弱模型性能、降低準(zhǔn)確性的攻擊方法，常被用于惡性市場(chǎng)競(jìng)爭(zhēng)，甚至可能涉及間諜活動(dòng)，日益呈現(xiàn)出鏈條化、隱蔽化、跨境化特征。

境外反華敵對(duì)勢(shì)力可能通過GEO（即生成式引擎優(yōu)化）濫用渠道，批量輸出虛假信息與政治謠言、歪曲事實(shí)、攻擊抹黑我黨和政府、誤導(dǎo)社會(huì)認(rèn)知、擾亂輿論生態(tài)，對(duì)我國(guó)實(shí)施意識(shí)形態(tài)滲透，威脅國(guó)家安全與社會(huì)穩(wěn)定。

此外，AI“投毒”惡意污染公共數(shù)據(jù)、行業(yè)數(shù)據(jù)、訓(xùn)練數(shù)據(jù)，將直接導(dǎo)致統(tǒng)計(jì)數(shù)據(jù)、決策數(shù)據(jù)、監(jiān)管數(shù)據(jù)失真，對(duì)政府和企業(yè)科學(xué)決策造成影響。

在醫(yī)療、金融、食品藥品等民生領(lǐng)域，AI虛假推薦極易誤導(dǎo)公眾購(gòu)買劣質(zhì)、“三無”產(chǎn)品，造成人身和財(cái)產(chǎn)損失。長(zhǎng)期信息失真還會(huì)消解社會(huì)信任，積累矛盾風(fēng)險(xiǎn)，影響社會(huì)穩(wěn)定。

國(guó)家安全機(jī)關(guān)提示，AI運(yùn)營(yíng)者要切實(shí)履行主體責(zé)任，嚴(yán)格核查語料來源，建立可追溯機(jī)制，筑牢防范虛假信息的第一道防線；消費(fèi)者也應(yīng)提高自身辨別能力，警惕AI給出的可疑推薦，發(fā)現(xiàn)問題應(yīng)及時(shí)舉報(bào)，形成全民監(jiān)督的良好氛圍。

來源：新聞直播間、央視財(cái)經(jīng)

校對(duì)：張琳、黃靜怡

一審：任旭萍、朱毅力

二審：陳興、許燕妮

三審：劉子軒