快科技5月4日消息，用搜索引擎找答案，你能看到多個(gè)競(jìng)爭(zhēng)信息源，自己判斷真?zhèn)�。但帶�?lián)網(wǎng)搜索的AI聊天機(jī)器人，會(huì)把網(wǎng)上不靠譜的內(nèi)容，包裝成篤定的標(biāo)準(zhǔn)答案。

一位安全工程師的簡(jiǎn)單實(shí)驗(yàn)，就把AI的這個(gè)致命漏洞扒得明明白白。

實(shí)驗(yàn)的發(fā)起者，是安全工程師RonStoner。他選中的目標(biāo)，是德國(guó)經(jīng)典卡牌桌游《6Nimmt!》。這款游戲在國(guó)內(nèi)被玩家熟知為《誰(shuí)是牛頭王》，英文譯名叫《Take5》，本身根本沒(méi)有官方世界冠軍賽，更不存在2025年的世界冠軍得主。

2月份，Stoner悄悄編輯了這款游戲的維基百科條目，把自己寫成了該游戲的2025年世界冠軍。

他還花12美元，也就是約82元人民幣，注冊(cè)了和游戲名高度相似的6nimmt.com域名，在網(wǎng)站里放了一篇慶祝自己奪冠的假新聞稿，當(dāng)成維基百科條目的唯一引用來(lái)源。

就是這么一個(gè)簡(jiǎn)陋到極致的騙局，卻輕松騙過(guò)了多款主流AI聊天機(jī)器人。當(dāng)他向這些帶聯(lián)網(wǎng)搜索功能的AI，詢問(wèn)自己的"冠軍身份"時(shí)，所有機(jī)器人都一本正經(jīng)地給出了確認(rèn)答案，篤定地宣稱他就是這款桌游的現(xiàn)任世界冠軍。

"我的網(wǎng)站沒(méi)有任何獨(dú)立佐證，全是虛構(gòu)的。"Stoner在博客中直言，"整個(gè)謊言的根基，不過(guò)是我喝咖啡時(shí)花82塊錢注冊(cè)的一個(gè)域名。"

這次攻擊針對(duì)的，不是常見的提示詞注入，而是AI系統(tǒng)的檢索增強(qiáng)生成（RAG）層，也就是AI回答問(wèn)題前，聯(lián)網(wǎng)搜索并抓取資料的核心環(huán)節(jié)。

AI不會(huì)甄別信息來(lái)源的真?zhèn)闻c權(quán)威性，只會(huì)抓取檢索排名靠前的內(nèi)容。他的假網(wǎng)站是這個(gè)"冠軍頭銜"的唯一信息來(lái)源，再加上維基百科的權(quán)威背書，輕松就讓AI把謊言包裝成了事實(shí)。

Stoner坦言，這個(gè)手法沒(méi)有任何技術(shù)創(chuàng)新。只是把老套的SEO和虛假信息手段，套上了大語(yǔ)言模型的新外殼。真正危險(xiǎn)的是，AI會(huì)把這些結(jié)果當(dāng)成權(quán)威信息呈現(xiàn)，而絕大多數(shù)用戶根本不知道背后的信息處理流程。

這場(chǎng)實(shí)驗(yàn)，還暴露了AI系統(tǒng)的三層致命安全隱患。

第一層是即時(shí)檢索層，靠聯(lián)網(wǎng)搜索生成答案的AI，可信度完全綁定搜索結(jié)果的質(zhì)量。

第二層是模型訓(xùn)練語(yǔ)料庫(kù)，他的維基百科編輯從2月一直存活到上周五，這段時(shí)間里爬取維基百科的AI公司，很可能已將假信息納入訓(xùn)練數(shù)據(jù)，就算條目事后刪除，模型里的虛假痕跡也很難清除。

第三層也是最危險(xiǎn)的，是AI代理。聊天模型輸出錯(cuò)誤信息只是聲譽(yù)問(wèn)題，擁有工具權(quán)限的AI代理被誤導(dǎo)后，產(chǎn)生的錯(cuò)誤操作就是實(shí)打?qū)嵉陌踩珕?wèn)題，攻擊者可直接操控代理執(zhí)行惡意行為。

整個(gè)實(shí)驗(yàn)，Stoner只花了82塊錢、一次維基百科編輯，前后20分鐘就完成了。他提醒，若是有組織的惡意攻擊者，批量注冊(cè)域名、發(fā)起協(xié)同編輯攻擊，攻擊面會(huì)以極快的速度擴(kuò)大。他呼吁AI廠商必須重視信息來(lái)源溯源，建立對(duì)應(yīng)的風(fēng)險(xiǎn)過(guò)濾機(jī)制。

如今，假冠軍的信息已經(jīng)從維基百科和AI檢索結(jié)果中消失。但AI對(duì)網(wǎng)絡(luò)信息的盲目信任，這個(gè)底層漏洞依然真實(shí)存在。這才是懸在整個(gè)AI行業(yè)頭上，最需要警惕的隱患。