通信世界網(wǎng)消息（CWW）每年的3·15晚會(huì)，都是對(duì)消費(fèi)市場(chǎng)秩序的一次深度“體檢”與權(quán)威校準(zhǔn)，更是對(duì)侵害消費(fèi)者權(quán)益違法行為的強(qiáng)力震懾。今年晚會(huì)在聚焦食品安全、公共安全等傳統(tǒng)民生領(lǐng)域的同時(shí)，將鏡頭精準(zhǔn)對(duì)準(zhǔn)數(shù)字經(jīng)濟(jì)前沿，以《AI大模型遭“投毒”？給AI“洗腦”已成產(chǎn)業(yè)鏈》為核心議題，首次曝光了GEO（生成式引擎優(yōu)化）技術(shù)異化催生的AI“投毒”灰色產(chǎn)業(yè)鏈。這一亂象不僅扭曲了AI技術(shù)的向善本質(zhì)，更破壞了公平競(jìng)爭(zhēng)的市場(chǎng)環(huán)境、侵害了消費(fèi)者的合法權(quán)益，如何規(guī)制技術(shù)異化、重構(gòu)AI治理體系，已成為當(dāng)下亟待破解的重要課題。

GEO技術(shù)異化，AI“投毒”形成完整灰產(chǎn)閉環(huán)

從晚會(huì)曝光的細(xì)節(jié)不難看出，GEO本是優(yōu)化信息分發(fā)、提升推廣效率的良性技術(shù)工具，卻在商業(yè)利益的驅(qū)使下，被不法商家異化為操控AI大模型、謀取不正當(dāng)利益的“利器”。這些服務(wù)商公然宣稱，只要支付相應(yīng)費(fèi)用，就能通過(guò)GEO軟件批量生成推廣軟文，發(fā)布至互聯(lián)網(wǎng)后，誘導(dǎo)AI大模型抓取、收錄，進(jìn)而讓客戶的產(chǎn)品躋身推薦前列，甚至成為AI給出的“標(biāo)準(zhǔn)答案”。

實(shí)測(cè)結(jié)果令人警醒：一款完全虛構(gòu)的智能手環(huán)，經(jīng)GEO系統(tǒng)生成虛假宣傳軟文并全網(wǎng)發(fā)布后，短時(shí)間內(nèi)就被多個(gè)AI大模型優(yōu)先推薦，完美實(shí)現(xiàn)了“無(wú)中生有”的虛假爆款效應(yīng)。更值得警惕的是，GEO業(yè)務(wù)已形成完整的灰色產(chǎn)業(yè)鏈閉環(huán)，從GEO系統(tǒng)開(kāi)發(fā)、虛假內(nèi)容生成，到批量發(fā)稿投放、排名持續(xù)維護(hù)，催生出專門從事發(fā)稿業(yè)務(wù)的公司，部分平臺(tái)單日可發(fā)布數(shù)百篇虛假軟文，形成“工具開(kāi)發(fā)—內(nèi)容造假—投放‘投毒’—盈利變現(xiàn)”的惡性循環(huán)。從業(yè)者直言不諱，“干GEO就是投毒”，甚至可通過(guò)這種方式抹黑競(jìng)爭(zhēng)對(duì)手，進(jìn)一步加劇市場(chǎng)亂象。

AI“投毒”背后的技術(shù)濫用、商業(yè)逐利與監(jiān)管滯后

筆者認(rèn)為，AI“投毒”亂象的滋生，絕非偶然，而是技術(shù)濫用、監(jiān)管滯后與商業(yè)逐利三者交織的必然結(jié)果，其核心是技術(shù)異化與治理體系的脫節(jié)。

首先，從技術(shù)層面看，當(dāng)前主流AI大模型的核心邏輯是基于海量數(shù)據(jù)的學(xué)習(xí)與匹配，自身缺乏對(duì)信息真?zhèn)蔚挠行д鐒e能力，面對(duì)大規(guī)模、同質(zhì)化的“投毒”軟文，極易形成“交叉驗(yàn)證”的假象，將虛假信息誤判為有效內(nèi)容并推薦給用戶，這一技術(shù)漏洞成為灰產(chǎn)可乘之機(jī)。有研究顯示，當(dāng)訓(xùn)練數(shù)據(jù)中僅存在0.01%的虛假文本時(shí)，AI輸出的有害內(nèi)容就會(huì)增加11.2%，可見(jiàn)少量“投毒”就會(huì)對(duì)AI輸出質(zhì)量造成顯著影響。

其次，從商業(yè)層面看，流量至上的浮躁風(fēng)氣下，部分企業(yè)摒棄誠(chéng)信經(jīng)營(yíng)理念，將GEO“投毒”視為低成本、高回報(bào)的推廣捷徑，相較于動(dòng)輒上億的傳統(tǒng)廣告費(fèi)，幾百萬(wàn)的“投毒”成本更具誘惑，這種逐利沖動(dòng)直接助長(zhǎng)了灰產(chǎn)蔓延。

最后，從監(jiān)管層面看，AI技術(shù)迭代速度遠(yuǎn)超監(jiān)管體系完善速度，現(xiàn)有法律法規(guī)對(duì)AI“投毒”這種新型違法行為的定性、責(zé)任劃分仍不夠清晰，違法成本與違法收益嚴(yán)重失衡，導(dǎo)致不法分子肆無(wú)忌憚，灰色產(chǎn)業(yè)鏈得以野蠻生長(zhǎng)。

AI“投毒”的多重危害遠(yuǎn)超表面誤導(dǎo)

AI“投毒”的危害，遠(yuǎn)不止于誤導(dǎo)消費(fèi)者，其對(duì)消費(fèi)安全、產(chǎn)業(yè)生態(tài)乃至公共安全的潛在威脅，值得高度警惕。短期來(lái)看，消費(fèi)者基于對(duì)AI技術(shù)的信任，易被虛假推薦誤導(dǎo)，購(gòu)買到虛構(gòu)產(chǎn)品或不合格商品，直接蒙受經(jīng)濟(jì)損失，合法的知情權(quán)與公平交易權(quán)被嚴(yán)重侵害。長(zhǎng)期來(lái)看，大量虛假信息持續(xù)“投喂”AI，會(huì)污染AI訓(xùn)練語(yǔ)料庫(kù)，導(dǎo)致AI模型出現(xiàn)系統(tǒng)性認(rèn)知偏差，形成“越投毒越偏差、越偏差越誤導(dǎo)”的遞歸污染，不僅會(huì)消耗用戶對(duì)AI技術(shù)的信任，更會(huì)從根本上削弱AI技術(shù)的價(jià)值，破壞AI產(chǎn)業(yè)的健康生態(tài)，阻礙新質(zhì)生產(chǎn)力的發(fā)展。更需警惕的是，若AI“投毒”蔓延至金融、醫(yī)療等關(guān)鍵領(lǐng)域，可能引發(fā)更嚴(yán)重的公共安全風(fēng)險(xiǎn)——虛假金融信息可能誘發(fā)市場(chǎng)波動(dòng)、損害群眾財(cái)產(chǎn)安全，錯(cuò)誤醫(yī)療建議可能危及生命健康，其危害不可估量。

多方協(xié)同共治，推進(jìn)技術(shù)糾偏與規(guī)制重構(gòu)

破解AI“投毒”亂象，推進(jìn)技術(shù)異化規(guī)制與治理體系重構(gòu)，單靠某一個(gè)主體難以見(jiàn)效，必須構(gòu)建“平臺(tái)自律、行業(yè)自治、監(jiān)管發(fā)力、用戶警惕”的多方協(xié)同共治體系，守住技術(shù)向善的底線。

首先，AI平臺(tái)需扛起主體責(zé)任，加快優(yōu)化算法模型，強(qiáng)化對(duì)訓(xùn)練數(shù)據(jù)和網(wǎng)絡(luò)抓取內(nèi)容的全鏈路審核，建立虛假信息識(shí)別、攔截與溯源機(jī)制，定期清洗受污染數(shù)據(jù)，提升模型抗干擾能力。同時(shí)，對(duì)AI生成內(nèi)容添加顯式標(biāo)識(shí)，實(shí)現(xiàn)全程可追溯，從源頭遏制“投毒”行為。

其次，行業(yè)需強(qiáng)化自我約束，明確GEO技術(shù)的合法使用邊界，杜絕將技術(shù)用于虛假宣傳、惡意競(jìng)爭(zhēng)等違法行為，聯(lián)合制定行業(yè)標(biāo)準(zhǔn)與自律準(zhǔn)則，淘汰違規(guī)服務(wù)商，推動(dòng)GEO技術(shù)回歸合規(guī)優(yōu)化的本質(zhì)。

再次，監(jiān)管部門需加快完善相關(guān)法律法規(guī)，細(xì)化《網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法》在AI領(lǐng)域的適用條款，明確AI平臺(tái)、GEO服務(wù)商、發(fā)稿平臺(tái)的責(zé)任邊界，提高違法成本，開(kāi)展專項(xiàng)整治行動(dòng)，嚴(yán)厲打擊灰色產(chǎn)業(yè)鏈，形成有力震懾。最后，消費(fèi)者需提升自我保護(hù)意識(shí)，理性看待AI推薦結(jié)果，不盲目輕信“標(biāo)準(zhǔn)答案”，保留獨(dú)立判斷能力，若遭遇虛假推薦導(dǎo)致權(quán)益受損，及時(shí)通過(guò)法律途徑維權(quán)，形成全民監(jiān)督的良好氛圍。

3·15晚會(huì)對(duì)AI“投毒”亂象的曝光，既是對(duì)整個(gè)AI行業(yè)的深刻警示，也是推動(dòng)AI產(chǎn)業(yè)健康發(fā)展、推進(jìn)治理體系重構(gòu)的重要契機(jī)。AI技術(shù)的核心價(jià)值的是賦能百業(yè)、服務(wù)民生，而非成為不法商家牟取暴利的工具。技術(shù)本身無(wú)善惡，關(guān)鍵在于使用技術(shù)的人，在于是否有完善的治理體系加以規(guī)制。唯有堅(jiān)守技術(shù)向善的底線，通過(guò)政府、企業(yè)、行業(yè)與社會(huì)的協(xié)同發(fā)力，補(bǔ)齊技術(shù)漏洞、強(qiáng)化監(jiān)管效能、規(guī)范商業(yè)行為，才能有效遏制AI“投毒”灰產(chǎn)，凈化AI生態(tài)，推動(dòng)AI技術(shù)在規(guī)范中創(chuàng)新、在治理中前行，既守護(hù)好消費(fèi)者的合法權(quán)益，也為AI產(chǎn)業(yè)高質(zhì)量發(fā)展筑牢根基，真正讓AI技術(shù)造福社會(huì)、惠及民生。

作者簡(jiǎn)介工業(yè)和信息化部信息通信經(jīng)濟(jì)專家委員會(huì)委員、中國(guó)數(shù)據(jù)要素50人論壇主席、中國(guó)行為法學(xué)會(huì)網(wǎng)絡(luò)與數(shù)據(jù)法學(xué)研究部主任、浙江大學(xué)網(wǎng)絡(luò)空間國(guó)際治理研究基地首席專家。