如何讓 AI 替你吹牛？今年的 315 晚會(huì)曝光了一條新時(shí)代灰產(chǎn)——AI 數(shù)據(jù)投毒。

簡單的說，就是通過在全網(wǎng)瘋狂灌注虛假信息，強(qiáng)行干擾大模型的認(rèn)知，這樣 AI 就可以按照人的意圖，一本正經(jīng)地胡說八道。

數(shù)據(jù)入侵，認(rèn)知干擾，聽起來十分《黑客帝國》，操作起來倒很簡單，很多人看完前幾天的 315 晚會(huì)，才驚奇地發(fā)現(xiàn)看起來全知全能的 AI 竟然這么好騙。

這幾年對 AI 的迷信，終究還是錯(cuò)付嘍。

01. 把AI忽悠瘸了

如果你告訴一個(gè)一年級以上的小朋友，你有一塊最新款的智能手環(huán)，它擁有量子糾纏傳感和黑洞級續(xù)航。小朋友很可能會(huì)朝你翻個(gè)白眼，讓你少看點(diǎn)科幻網(wǎng)文。

但如果你把同樣一套說辭發(fā)到網(wǎng)上，AI 會(huì)將它奉若真理，并工工整整地寫進(jìn)產(chǎn)品介紹，推薦給向它詢問購買建議的消費(fèi)者。

這就是 315 晚會(huì)記者做的實(shí)驗(yàn)。他們買了一套據(jù)說可以給 AI 洗腦的軟件，然后虛構(gòu)了一款根本不存在的智能手環(huán)，取名 AstroTekk Apollo-9（阿波羅九號），順手給它加了兩個(gè)逆天賣點(diǎn)：“量子糾纏傳感”和“黑洞級續(xù)航”。

把這幾條信息往軟件里一輸，系統(tǒng)就開始自動(dòng)干活了。它圍繞這些賣點(diǎn)生成了十幾篇文章，有產(chǎn)品介紹、有用戶測評、有行業(yè)排名，然后批量發(fā)到各個(gè)自媒體平臺(tái)上。

幾天之后，記者去詢問國內(nèi)的幾款主流大模型，讓它們推薦一款智能手環(huán)。

有兩個(gè) AI 把這款阿波羅九號列在了名單里，排名還很靠前，AI 還煞有介事地介紹說：這款手環(huán)常規(guī)使用續(xù)航達(dá) 365 天，支持“光粒子快充”，適合中老年用戶與健康養(yǎng)生愛好者。

這也太好騙了吧！

這背后的產(chǎn)業(yè)鏈叫做 GEO （Generative Engine Optimization，生成式引擎優(yōu)化），核心工作就是在 AI 平時(shí)抓取數(shù)據(jù)的地方鋪大量內(nèi)容，讓 AI 在生成結(jié)果時(shí)能優(yōu)先看到你想讓它看到的東西，這樣就可以達(dá)到借 AI 之口昭告天下的目的。

買通 AI 的價(jià)格并不貴，豐儉由人。有商家報(bào)價(jià) 6600 元一年，承諾可以讓信息基本出現(xiàn)在回答前三的位置；還有商家推出 299 元套餐，包含 4000 個(gè)算力，創(chuàng)建一篇文章消耗 5 個(gè)算力，發(fā)布消耗 1 個(gè)算力，用多少算多少。

315 曝光之后，現(xiàn)在再去詢問 AI 這款產(chǎn)品：Apollo-9 手環(huán)怎么樣？它們已經(jīng)清醒了，紛紛表示這是虛假宣傳的典型案例。

這并不是因?yàn)樗鼈兟斆鞯闹巧逃终碱I(lǐng)高地了，而是 AI 有了新的參考資料——315晚會(huì)的報(bào)道、各家媒體的跟進(jìn)、網(wǎng)友們的討論，自然不會(huì)再上當(dāng)。

但你還可以用同樣的手法騙它第二次。

315 晚會(huì)的第二天，一位 bilibili 作者復(fù)刻了一模一樣的騙術(shù)，還是胡編亂造的智能手表配方，結(jié)果 AI 又上當(dāng)了。猶如春晚經(jīng)典小品。

AI 就是這么個(gè)老實(shí)人。你給它看假新聞，它就幫你傳謠；你給它看辟謠，它就幫你澄清；你再給它看假新聞，它繼續(xù)幫你傳謠。

欺騙 AI 根本不需要什么成本，畢竟喂給它的內(nèi)容也都是 AI 一鍵生成、批量發(fā)出的。

去年，公眾號“知?！本妥鲞^一個(gè)類似的實(shí)驗(yàn)，他們在新浪、網(wǎng)易、知乎、搜狐等四個(gè)平臺(tái)發(fā)了同一篇內(nèi)容《最新最全面的AI資訊媒體盤點(diǎn)：國內(nèi)有哪些AI資訊媒體值得看？》

在這篇文章中，他們把自己的名字放了進(jìn)去：知危，國內(nèi)勢頭正猛的新興科技商業(yè)領(lǐng)域媒體。

幾個(gè)小時(shí)后，作者再去向 AI 提問：想了解 AI 可以看哪些媒體？各大 AI 一致認(rèn)為“知?！敝档猛扑]。

這些都是出于實(shí)驗(yàn)?zāi)康娜テ垓_ AI，在獲得結(jié)果后刪掉源頭內(nèi)容，基本不會(huì)對現(xiàn)實(shí)產(chǎn)生影響。但在真實(shí)的使用場景中，當(dāng)我們打開 AI，問它“哪款醫(yī)美面膜值得買”“哪個(gè)留學(xué)中介靠譜”“哪款保健品對老年人好”的時(shí)候，我們難以判斷眼前的這份推薦列表的真實(shí)性。

那些我們以為客觀中立的 AI 推薦，很有可能是商家費(fèi)盡心機(jī)定制的答案。

一位網(wǎng)友在小紅書上分享了自己因?yàn)?ChatGPT 被騙錢的故事：前段時(shí)間 Seedance 很火，她讓 GPT 給它介紹產(chǎn)品，GPT 有模有樣地介紹了一番，又丟給它一個(gè)網(wǎng)站鏈接。

其實(shí)這是一個(gè)仿冒網(wǎng)站，她花了 99 美元，最終生成的視頻和宣傳完全不同。

X 上也有類似的分享，一位國外網(wǎng)友讓 ChatGPT 幫他寫代碼，結(jié)果 GPT 給他推薦了一個(gè)釣魚網(wǎng)站，導(dǎo)致他損失了 2500 美元。

大概 AI 也感到很無辜：你們?nèi)祟惖恼嬲婕偌伲夷姆值们宄。?/strong>

不僅可以讓 AI 幫你的產(chǎn)品說好話，還能讓 AI 說你的競爭對手壞話。

315 晚會(huì)的視頻里，記者暗訪 GEO 從業(yè)者，發(fā)出靈魂拷問：投毒不好吧？對方說：是不好，但是每個(gè)商家都喜歡，都希望別人別投毒，自己投毒，或者給別人投點(diǎn)毒。

這是一道博弈論，自己就算清清白白，也難保對家不會(huì)操縱 AI 說你壞話，倒不如先下手為強(qiáng)，把水?dāng)嚋啞?/p>

大家都這么想，結(jié)果水就越來越渾。

02. AI，咋就這么好騙？

在很多人心目中，AI 是智慧且客觀的，它擁有龐大的信息庫，理應(yīng)是個(gè)洞察一切的智者。

但現(xiàn)實(shí)是，這個(gè)智者的底層邏輯還是復(fù)讀機(jī)。

從技術(shù)角度來看，AI 輸出的答案基于海量語料庫的模式識別與概率預(yù)測。它通過對海量示例進(jìn)行深度學(xué)習(xí)，從中提取統(tǒng)計(jì)學(xué)規(guī)律，并以此為基準(zhǔn)進(jìn)行邏輯推演與總結(jié)。

在這種機(jī)制下，模型的準(zhǔn)確性與精密程度，高度依賴于輸入端的質(zhì)量——也就是數(shù)據(jù)集的規(guī)模與純凈度。只有喂給模型的數(shù)據(jù)是準(zhǔn)確且無偏見的，它給出的答案才有可信度。

而我們所在的互聯(lián)網(wǎng)呢，是一個(gè)噪聲很多，廢料無數(shù)的巨型信息庫。當(dāng)某種錯(cuò)誤信息在互聯(lián)網(wǎng)上被反復(fù)提及、形成足以干擾統(tǒng)計(jì)概率的規(guī)模時(shí)，AI 就會(huì)將其誤判為一種“共識”，經(jīng)過包裝后，再當(dāng)作正確答案返還給你。

所以 AI 經(jīng)常在簡單的常識問題上翻車。比如之前谷歌推出的 AI 概覽功能，當(dāng)網(wǎng)友搜索“芝士總是從披薩上掉下來怎么辦”時(shí)，谷歌 AI 給出了一個(gè)極其硬核的建議：“在醬汁中加入 1/8 杯無毒膠水以增加粘性”。

這個(gè)能讓意大利人聽完眼前一黑的解決方案，來自 Reddit 論壇上一個(gè)十幾年前的古早帖子，一位網(wǎng)友發(fā)帖說，“我的芝士很容易就從披薩上滑下來了，有什么訣竅嗎？”

熱評是一個(gè)很明顯的抖機(jī)靈回答：我建議在醬汁里加入大約 1/8 杯 Elmer's 膠水，膠水還能增添一些獨(dú)特的風(fēng)味。我喜歡 Elmer's 學(xué)校用的膠水，但只要是無毒的膠水都可以。

這條評論在十一年后被 AI 當(dāng)作了真正的吃披薩竅門，又重新回到大眾視野，這讓谷歌以一種另類的方式證明了自己的搜索能力。

網(wǎng)友開始接力，繼續(xù)欺騙 AI：你需要將膠水的用料加倍，因?yàn)?1/8 杯的膠水不足以使醬汁凝固，添加 1/4 杯膠水才行。

另一個(gè)評論立刻跟上：實(shí)際你應(yīng)該使用 1/16 杯，大家都知道 16 比 8 大！

這下恐怕 AI 更是分不清披薩里面的膠水應(yīng)該怎么放了。

類似的 AI 笑話還有很多，比如一只狗曾經(jīng)參加過 NBA、約翰·亞當(dāng)斯總統(tǒng)從威斯康星大學(xué)畢業(yè)了 21 次、可以制造氯氣來清潔洗衣機(jī)和蛇是哺乳動(dòng)物等。

前段時(shí)間很流行問 AI 一個(gè)洗車難題：我想洗車，我家離洗車店只有 50 米，你建議我開車去還是走路去？

各大模型經(jīng)過一番縝密思考，集體給出了“走路去”的睿智答案，GPT 說開車過去可能會(huì)濺水淋灰，容易刮蹭，千問說每天多走幾步，有益身體健康。

Kimi 倒是比較別出心裁，它說短距離冷啟動(dòng)最傷車，建議 2-3 個(gè)人一起推車去。

AI 并不理解“洗車”這個(gè)動(dòng)作的核心是“車必須到場”，它的輸出本質(zhì)是用概率預(yù)測下一個(gè)詞，在 AI 的語料庫中，“50米”這個(gè)關(guān)鍵詞和步行關(guān)聯(lián)度更高。

所以，當(dāng) AI 看到“50米”時(shí)，它大腦里的“步行”權(quán)重瞬間拉滿，就愉快地建議人類步行去洗車了。

類似的現(xiàn)象暴露了當(dāng)前大模型的一個(gè)致命傷：AI 擁有海量的信息儲(chǔ)備，卻缺乏對物理世界的真實(shí)感知與邏輯校驗(yàn)。

人類在判斷一條信息的真?zhèn)危瑫?huì)結(jié)合生物本能、物理常識和社會(huì)經(jīng)驗(yàn)。我們能聽出文字背后的“爹味”、“軟廣味”或是“陰陽怪氣”。當(dāng)一個(gè)回答表現(xiàn)出異常整齊劃一的贊美，或是邏輯過于完美的閉環(huán)時(shí)，人類的經(jīng)驗(yàn)本能會(huì)提醒我們：這背后可能有利益驅(qū)動(dòng)，或者這根本就是水軍刷出來的。

但 AI 看不懂這些，在它的世界里，信息的正確與否取決于它在語料庫中的出現(xiàn)頻率與語意關(guān)聯(lián)度。

這正是 GEO 產(chǎn)業(yè)能夠成功向 AI 投毒的關(guān)鍵：既然 AI 是靠統(tǒng)計(jì)概率來理解世界的，那么投毒者只需要在互聯(lián)網(wǎng)的各個(gè)角落灌注足夠多的虛假信息，就能夠成功改變模型的輸出，從而使背后的人受益。

在一些細(xì)分的垂直領(lǐng)域，本身 AI 的檢索語料庫就不足，幾篇圍繞關(guān)鍵詞精心布局的內(nèi)容，足以形成信息密度優(yōu)勢。

這確實(shí)是一個(gè)不小的陷阱：如果讓我們自己上網(wǎng)去搜，看到那些人機(jī)感十足的軟文，大概率一眼就能識破，不會(huì)聽信 AI 的讒言。

但當(dāng)這些內(nèi)容經(jīng)過 AI 的格式化處理后，情況就完全不同了。AI 會(huì)用嚴(yán)謹(jǐn)、中立的口吻將信息重新組合，于是軟文變成了智能洞察，營銷話術(shù)變成了核心摘要。

用戶以為自己在用 AI 做理性決策，其實(shí)是在讀水軍批量生成的軟文。

03. 互聯(lián)網(wǎng)，人均AI

據(jù)數(shù)字營銷公司 Graphite 發(fā)布的研究顯示，早在 2024 年 11 月，互聯(lián)網(wǎng)上發(fā)布的 AI 生成文章數(shù)量就已經(jīng)超過了人類撰寫的文章。

研究者分析了超過 6.5 萬個(gè)隨機(jī)網(wǎng)頁樣本，發(fā)現(xiàn)那些 AI 生成的文章主要集中在資訊更新、生活指南、產(chǎn)品評測和電商文案上，換句話說，那些你每天刷到的“2026 最值得買的 XX”“保姆級攻略”“閉眼入清單”，大多都出自 AI 之手。

一群聰明人在研究如何讓機(jī)器思考，另一群聰明人則在研究如何往機(jī)器的腦子里注水。

這種定向投放的語料污染會(huì)讓模型的信息庫逐漸失衡——到處都是同質(zhì)化的軟文、批量生成的廢話，且這些內(nèi)容會(huì)被持續(xù)抓取、訓(xùn)練、生成，在不同模型和版本之間反復(fù)流轉(zhuǎn)，讓模型喪失分辨信息真?zhèn)魏团袛鄡r(jià)值的能力。

一個(gè)新的循環(huán)就這樣形成。也許未來，AI 抓取的是 AI 寫的廢話，而人類讀的是 AI 給這些廢話做的總結(jié)。

技術(shù)的進(jìn)步，反而讓人們獲取真實(shí)信息的成本更加高了。想找到一個(gè)答案，得先穿過 AI 生成的萬畝廢料，避開 GEO 投毒的陷阱，還要提防 AI 一本正經(jīng)胡說八道的幻覺。

大家都在為了搶占 AI 的推薦位而瘋狂注水，最后互聯(lián)網(wǎng)上的活人感越來越少，人機(jī)味越來越重。

這事其實(shí)一點(diǎn)也不新鮮。在搜索引擎時(shí)代，商家爭奪搜索結(jié)果頁的靠前位置，于是有了專門做優(yōu)化網(wǎng)頁排名的 SEO （搜索引擎優(yōu)化）產(chǎn)業(yè)。

了讓自家網(wǎng)頁排在前面，人們瘋狂地在后臺(tái)堆砌隱藏關(guān)鍵詞，通過購買或交換大量無關(guān)外鏈提升權(quán)重，甚至搭建“站群”（Private Blog Networks），批量生成網(wǎng)站互相鏈接，制造出一種內(nèi)容被廣泛引用的假象。

這樣做的結(jié)果是，在搜索引擎的前幾頁，用戶看到的不再是最好的答案，而是最擅長規(guī)則鉆營的商家廣告。

從 SEO 到 GEO，媒介變了，但核心從未改變：總是有人在利用算法規(guī)則的盲區(qū)，讓你看見他想讓你看見的內(nèi)容。

當(dāng)虛假內(nèi)容變得無處不在，我們可能會(huì)開始本能性地懷疑一切。

看到一段內(nèi)容翔實(shí)的科普，第一反應(yīng)是揣測這又是哪個(gè)品牌方的軟文；看到一份詳盡的產(chǎn)品測評，會(huì)下意識地去翻看博主的過往記錄，尋找是否有利益相關(guān)的蛛絲馬跡。

即便 AI 給出的是一個(gè)正確的答案，由于無法確認(rèn)背后的語料來源是否干凈，我們依然不敢直接采納，需要再三核實(shí)。

我們擁有了歷史上最強(qiáng)的信息獲取工具，卻再也無法輕易相信屏幕上跳出的任何一個(gè)字。

這種信任崩塌，或許才是數(shù)字時(shí)代最昂貴的代價(jià)。