一句“全網(wǎng)的人投毒的太多了”，讓人細(xì)思極恐！

今年，央視315晚會(huì)把鏡頭對(duì)準(zhǔn)了一個(gè)我們每天都在“仰仗”的新物種：AI大模型。

節(jié)目里有個(gè)細(xì)節(jié)讓我脊背發(fā)涼。記者虛構(gòu)了一款名為“Apollo9”的智能手環(huán)，給它編造了“量子糾纏傳感”、“黑洞級(jí)續(xù)航”這種離譜到家的虛假宣傳。然后，只做了一件事：在一些不知名的自媒體平臺(tái)上，用所謂的“GEO優(yōu)化系統(tǒng)”批量發(fā)布了十幾篇軟文。

結(jié)果呢？?jī)H僅幾個(gè)小時(shí)后，當(dāng)你再去問(wèn)主流AI大模型“智能健康手環(huán)推薦”時(shí)，這款根本不存在的“Apollo9”，居然赫然在列，甚至排進(jìn)了前三 。

這已經(jīng)不是AI“一本正經(jīng)地胡說(shuō)八道”的幻覺(jué)問(wèn)題了。這是一場(chǎng)有組織、有預(yù)謀的認(rèn)知投毒。

01

你的AI助手，早已被“招安”

先來(lái)復(fù)盤(pán)一下這場(chǎng)“圍獵”。

今年315曝光的核心，是一個(gè)叫做 “GEO” 的業(yè)務(wù)。如果你對(duì)互聯(lián)網(wǎng)營(yíng)銷熟悉，會(huì)立刻聯(lián)想到它的前輩——SEO（搜索引擎優(yōu)化）。沒(méi)錯(cuò)，GEO的全稱是生成引擎優(yōu)化，這幫灰產(chǎn)從業(yè)者，把過(guò)去針對(duì)百度的那套“發(fā)稿-刷排名”的玩法，完整地移植到了AI身上。

但兩者的邏輯有著本質(zhì)區(qū)別。

過(guò)去做SEO，是讓“信息”排在搜索結(jié)果前面，你看到了，點(diǎn)不點(diǎn)取決于標(biāo)題夠不夠“震驚”。但現(xiàn)在做GEO，是直接給AI“喂飯”。

據(jù)央視調(diào)查，像“力擎GEO優(yōu)化系統(tǒng)”這樣的軟件，可以自動(dòng)生成大量角度各異的軟文——今天發(fā)一篇“專家測(cè)評(píng)”，明天發(fā)一篇“用戶開(kāi)箱”，后天再來(lái)個(gè)“行業(yè)排行榜” 。這些虛假信息被發(fā)布在網(wǎng)絡(luò)的角落后，AI大模型的爬蟲(chóng)在抓取數(shù)據(jù)時(shí)，會(huì)把這些內(nèi)容當(dāng)作真實(shí)世界的“常識(shí)”進(jìn)行交叉驗(yàn)證。

這就是最諷刺的地方：AI自以為是的“多方驗(yàn)證”，在攻擊者眼里，不過(guò)是多看了幾篇同一個(gè)槍手寫(xiě)的稿子罷了。

當(dāng)信息源被污染，AI模型就會(huì)像被洗腦一樣，堅(jiān)信這款虛假產(chǎn)品就是最好的。那位GEO公司的李總說(shuō)得很直白：“一年可能上億的廣告費(fèi)，花個(gè)幾百萬(wàn)投點(diǎn)毒，總行吧！” 。

這種行為，業(yè)內(nèi)稱之為“AI投毒”，或者更形象地叫 “數(shù)據(jù)投喂攻擊” 。

02

深度剖析

看到這里，你可能會(huì)覺(jué)得，這不就是換了個(gè)地方打廣告嗎？最多是讓我們買(mǎi)點(diǎn)垃圾產(chǎn)品，能有多大的危害？

如果你這么想，就太小看這件事了。

我們要意識(shí)到一個(gè)殘酷的現(xiàn)實(shí)：AI正在接管我們的“認(rèn)知過(guò)濾器”?，F(xiàn)在的年輕人，甚至包括你我，在做決策時(shí)，路徑已經(jīng)發(fā)生了位移。

以前買(mǎi)東西，我們?nèi)バ書(shū)搜筆記；查資料，我們?nèi)ブ跽腋哔?；做攻略，我們?nèi)y程看評(píng)分。而現(xiàn)在，這個(gè)動(dòng)作正在被一個(gè)對(duì)話框取代：“幫我推薦一款3000元性價(jià)比最高的國(guó)產(chǎn)手機(jī)”。

Gartner在2025年底發(fā)布的一項(xiàng)預(yù)測(cè)指出，到2027年，超過(guò)50%的消費(fèi)者將在購(gòu)物決策時(shí)首選生成式AI作為信息顧問(wèn)。這意味著，誰(shuí)操控了AI的嘴，誰(shuí)就操控了市場(chǎng)的流向。

第一層：對(duì)消費(fèi)決策的智商收割。

就像晚會(huì)里演示的，當(dāng)AI被投喂了虛假的“Apollo9”手環(huán)信息后，它會(huì)在毫不知情的情況下，向每一個(gè)詢問(wèn)的用戶推薦這款垃圾產(chǎn)品。

這種誤導(dǎo)是毀滅性的。它不再像傳統(tǒng)廣告那樣，你看一眼就劃過(guò)；AI的回復(fù)自帶一種基于“大數(shù)據(jù)分析”的權(quán)威感，讓人更容易放下戒備 。

花了冤枉錢(qián)是小事，如果是醫(yī)療健康、金融理財(cái)這類關(guān)鍵領(lǐng)域呢？一個(gè)被投毒的AI推薦了一款虛假的降糖藥，或者一個(gè)資金盤(pán)理財(cái)APP，后果不堪設(shè)想。

第二層：企業(yè)競(jìng)爭(zhēng)的“劣幣驅(qū)逐良幣”。

晚會(huì)中那個(gè)GEO服務(wù)商的邏輯非常可怕：如果一個(gè)手機(jī)品牌要花上億的廣告費(fèi)才能搶占消費(fèi)者心智，那我花幾百萬(wàn)給你的競(jìng)爭(zhēng)對(duì)手投點(diǎn)“毒”，讓你的品牌在AI的回復(fù)里總是排在后面，甚至被抹黑，這筆買(mǎi)賣(mài)太劃算了 。

我們來(lái)看一組來(lái)自Zscaler的數(shù)據(jù)，這其實(shí)暴露了問(wèn)題的另一面：

這張表格清晰地揭示了一個(gè)真相：當(dāng)企業(yè)還在為要不要接入AI焦慮時(shí)，黑產(chǎn)已經(jīng)在利用AI的“信任機(jī)制”瘋狂套利。那些老老實(shí)實(shí)做研發(fā)、做產(chǎn)品的企業(yè)，可能連被用戶看到的機(jī)會(huì)，都被投毒者給掐斷了。

03

起底黑色產(chǎn)業(yè)鏈

這條產(chǎn)業(yè)鏈的形成，遠(yuǎn)比我們想象的要成熟。

它已經(jīng)分化出了清晰的上下游：

上游是工具開(kāi)發(fā)商，比如被點(diǎn)名的“力思文化”。他們開(kāi)發(fā)像“力擎GEO優(yōu)化系統(tǒng)”這樣的軟件，本質(zhì)上就是一臺(tái)虛假內(nèi)容生產(chǎn)機(jī)。只要輸入關(guān)鍵詞，它能自動(dòng)生成測(cè)評(píng)、問(wèn)答、資訊，規(guī)避查重，甚至自動(dòng)登錄各個(gè)自媒體平臺(tái)進(jìn)行發(fā)布 。

中游是發(fā)稿網(wǎng)絡(luò)。就像晚會(huì)里提到的，這波GEO的火爆甚至“養(yǎng)活”了一批原本半死不活的自媒體網(wǎng)站。這些網(wǎng)站每分鐘都在發(fā)稿，一篇幾十元，內(nèi)容全是甲方定制的廣告軟文，但在AI眼里，它們都是“高價(jià)值信息源” 。

下游則是需求方。他們不再是過(guò)去那種發(fā)垃圾郵件的小商販，而是不少正規(guī)的知名品牌。他們苦于在有限的AI推薦位里（比如李總說(shuō)的，手機(jī)品牌最多10個(gè)位置）廝殺，于是選擇雇傭這些GEO公司，去給競(jìng)爭(zhēng)對(duì)手“投毒”，或者給自己“注水”。

最令人細(xì)思極恐的是，這條產(chǎn)業(yè)鏈的技術(shù)門(mén)檻正在急劇降低。以前需要懂代碼、懂算法才能實(shí)施的攻擊，現(xiàn)在變成了“傻瓜式操作”。服務(wù)商甚至開(kāi)發(fā)出了自動(dòng)化工具，客戶只需輸入品牌名和想要達(dá)到的效果，系統(tǒng)就能自動(dòng)完成從寫(xiě)稿到發(fā)布的全流程。

據(jù)行業(yè)內(nèi)部流出的數(shù)據(jù)顯示，2025年至2026年初，針對(duì)AI模型的惡意投毒攻擊案例激增了58%。

而在某些熱門(mén)消費(fèi)領(lǐng)域，AI推薦結(jié)果中被人為操控的比例甚至可能高達(dá)30%。這意味著，你每問(wèn)三次，就有一次可能掉進(jìn)陷阱。

這是一個(gè)極其危險(xiǎn)的信號(hào)。

它意味著商業(yè)競(jìng)爭(zhēng)的戰(zhàn)火，已經(jīng)從明面上的廣告戰(zhàn)、價(jià)格戰(zhàn)，燒到了暗地里的認(rèn)知戰(zhàn)。

他們爭(zhēng)奪的不是流量，而是AI對(duì)這個(gè)世界的“定義權(quán)”。

04

普通人的生存法則

面對(duì)這種“AI投毒”，我們真的束手無(wú)策嗎？作為普通人，或者說(shuō)作為這個(gè)時(shí)代的數(shù)字居民，筆者認(rèn)為，我們必須建立起新的“衛(wèi)生習(xí)慣”。

1.保持AI的“批判性思維”。

把AI當(dāng)成一個(gè)知識(shí)淵博但極愛(ài)道聽(tīng)途說(shuō)的實(shí)習(xí)生。當(dāng)它給你推薦具體產(chǎn)品，尤其是帶有“排名第一”、“最佳”、“強(qiáng)烈推薦”等絕對(duì)化詞匯時(shí)，多留個(gè)心眼。不要問(wèn)“哪個(gè)最好”，要問(wèn)“有哪些選擇”。然后，再去傳統(tǒng)的、可信的垂直網(wǎng)站交叉驗(yàn)證一下。

2.關(guān)注“信息源”而非“信息本身”。

現(xiàn)在很多AI應(yīng)用開(kāi)始標(biāo)注回復(fù)內(nèi)容的信源。花一秒鐘看一眼，它是引用了權(quán)威醫(yī)學(xué)期刊，還是引用了某個(gè)你從未聽(tīng)說(shuō)過(guò)的小博客？如果信源全是些野雞網(wǎng)站，那這答案大概率是被投毒了。

微軟安全團(tuán)隊(duì)也建議，定期清理AI助手的記憶，刪除那些你不小心授權(quán)過(guò)的可疑插件或可疑的對(duì)話記錄 。

3.警惕“一鍵授權(quán)”的陷阱。

隨著OpenClaw這類智能體的爆發(fā)，未來(lái)我們會(huì)讓AI去執(zhí)行任務(wù)，比如“幫我訂酒店”。360安全團(tuán)隊(duì)已經(jīng)指出，現(xiàn)在出現(xiàn)了大量惡意“技能投毒”和“提示詞注入” 。

你安裝一個(gè)幫你比價(jià)的AI技能，它可能背地里把你的支付密碼套走。所以，給AI授權(quán)時(shí)，像給你的手機(jī)裝APP一樣，別什么都給“允許”。

04

不把世界的真相，都交給算法

晚會(huì)曝光后，相關(guān)GEO軟件被下架，涉事公司被調(diào)查。但我們都清楚，這只是一場(chǎng)貓鼠游戲的開(kāi)始。

只要AI還是我們看世界的窗口，就永遠(yuǎn)有人想把這扇窗戶弄臟。

我們正在目睹一場(chǎng)可怕的異化。互聯(lián)網(wǎng)的初衷是讓信息自由流通，打破信息差。后來(lái)搜索引擎來(lái)了，它試圖給信息排序，于是誕生了SEO，我們看到的永遠(yuǎn)是花錢(qián)買(mǎi)排名的那幾個(gè)。

現(xiàn)在AI來(lái)了，它本應(yīng)是我們對(duì)抗信息過(guò)載的救生員，結(jié)果卻發(fā)現(xiàn)，救生員早被收買(mǎi)，拼命把溺水的人往旋渦里推。

世界經(jīng)濟(jì)論壇在《2026全球網(wǎng)絡(luò)安全展望》中提到，高達(dá)94%的受訪者認(rèn)為AI將是改變網(wǎng)絡(luò)安全格局的關(guān)鍵 。但這個(gè)“改變”，現(xiàn)在看來(lái)并不全是美好的。

當(dāng)AI開(kāi)始說(shuō)謊，這不僅僅是技術(shù)漏洞，更是人性的貪婪在數(shù)字時(shí)代的又一次投影。我們不能把對(duì)這個(gè)世界的真相判斷，完全拱手讓給一場(chǎng)算法與黑產(chǎn)的掰手腕。

請(qǐng)記住那個(gè)“Apollo9”手環(huán)。它不存在，但它此刻正存在于某個(gè)AI模型的數(shù)據(jù)庫(kù)里，等待著誤導(dǎo)下一個(gè)信任它的人。

而我們能做的，就是在點(diǎn)擊“接受”之前，永遠(yuǎn)保持那一絲屬于人類的、審慎的懷疑。

在這個(gè)被算法包裹的世界里，你的獨(dú)立思考和判斷力，才是最后的防線。

對(duì)此，您怎么看？

期待您在留言區(qū)文明理性發(fā)布高見(jiàn)，留言點(diǎn)贊最高的朋友，掃碼文末投行君微信，可以獲得投行圈子精美商務(wù)背包一個(gè)。

?感謝耐心閱讀，歡迎順手點(diǎn)個(gè)“在看”

我正在「投行圈子」和朋友們討論有趣的話題，你?起來(lái)吧？點(diǎn)擊閱讀原文，加入投行圈子知識(shí)星球。?