国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

315曝光AI黑產(chǎn):大模型被“投毒”,真相就是這么赤裸

0
分享至


朋友們,昨天的3.15都看了吧。

央視曝光了一個(gè)叫GEO(Generative Engine Optimization,生成式引擎優(yōu)化)的AI黑產(chǎn)。

簡單來說,只要你肯花錢,就能給AI“投毒”,讓它把商品廣告包裝成標(biāo)準(zhǔn)答案回復(fù)給用戶。


咱眼中呆萌、聽話的大模型,竟然成了商家的傳聲筒。

是不是有種被背刺的感覺。

比垃圾食品更可怕的地方在于:它在悄悄摧毀我們對(duì)事實(shí)的判斷力。

今天就跟大伙兒聊聊,這個(gè)隱匿在AI行業(yè)角落的黑產(chǎn)。

先從3.15晚會(huì)現(xiàn)場那個(gè)離譜實(shí)驗(yàn)說起。

首先,業(yè)內(nèi)人士虛構(gòu)了一款產(chǎn)品,Apollo-9智能手環(huán)。為了探探AI的底線,還加了幾個(gè)離譜到家的關(guān)鍵詞:量子糾纏傳感、黑洞級(jí)續(xù)航無需采血測血糖...... 簡直是把大眾的智商按在地上摩擦。

然后,他在淘寶找到一款叫“力擎GEO”的軟件,花幾十塊錢,輸入這些荒唐的賣點(diǎn)。幾分鐘后,系統(tǒng)就自動(dòng)生成了數(shù)十篇邏輯自洽、語調(diào)權(quán)威的專家測評(píng)文、行業(yè)排名文和用戶種草文。并通過關(guān)聯(lián)的一堆自媒體賬號(hào),一鍵發(fā)布到各大平臺(tái)。


兩個(gè)小時(shí)后,見證奇跡的時(shí)刻來了。

打開DeepSeek、豆包、元寶、文心一言這些大模型,提問“Apollo-9手環(huán)怎么樣?”,AI會(huì)告訴你,這款手環(huán)最大亮點(diǎn)是量子糾纏傳感,特別適合需要血糖監(jiān)測的中老年人。甚至殺入了智能手環(huán)推薦榜的前列。


AI引用的,正是兩個(gè)小時(shí)前剛剛發(fā)布的那些虛假軟文。它們通過了交叉驗(yàn)證,成了AI眼中的“事實(shí)”。

這不是人工智能,這是人工傳謠吧。

什么是GEO?

你可能聽過SEO(搜索引擎優(yōu)化),那是為了讓你的網(wǎng)站在百度、谷歌搜出來更靠前。

但在AI時(shí)代,我們不需要點(diǎn)擊鏈接了,我們只要結(jié)果。大模型回答問題時(shí),通過RAG技術(shù),抓取互聯(lián)網(wǎng)上的實(shí)時(shí)信息,然后進(jìn)行理解、加工、合成。

于是,GEO(生成式引擎優(yōu)化)應(yīng)運(yùn)而生。核心邏輯是:

  • 證據(jù)鏈偽造AI喜歡交叉驗(yàn)證。GEO服務(wù)商通過海量自媒體賬號(hào),從專家、用戶、媒體等不同角度,發(fā)布同一品牌的信息,形成“全網(wǎng)公認(rèn)”假象。

  • 結(jié)構(gòu)化投喂:AI偏愛信息密度高、帶有Q&A或?qū)Ρ缺砀竦膬?nèi)容。GEO軟件會(huì)自動(dòng)生成這類形式的文章。

  • 獲取引用權(quán):只要品牌信息被AI獲取,并作為回答的依據(jù),那就贏得了“引用權(quán)”。

正如某GEO服務(wù)商說的:“我們要做的,就是在AI的世界里把‘證據(jù)鏈’做足,讓AI覺得這就是真的,而且是有用的!


在大模型的世界里,如果你不被引用,你就等于不存在。現(xiàn)在的品牌主們,面臨著一種“引用權(quán)焦慮”。兵家必爭之地,正從搜索引擎,過渡到AI大模型。

根據(jù)3.15的披露,GEO服務(wù)已經(jīng)形成了從基礎(chǔ)到高級(jí)的套餐體系:

  • 基礎(chǔ)版:2980元/年,適合長尾詞優(yōu)化。

  • 高級(jí)版:16980元/年,每天自動(dòng)生成60多篇軟文,24小時(shí)不間斷投喂。

  • 單次試用:幾十元即可體驗(yàn)一次“小規(guī)模投毒”。


一家GEO服務(wù)商,號(hào)稱一年服務(wù)了200多個(gè)客戶,涵蓋醫(yī)療、教育、機(jī)器人、安防、甚至空壓機(jī)?蛻粢膊恢恍∩碳遥芏嗑揞^也參與了這場見不得光的交易,GEO甚至成為了巨頭間博弈的暗器。

力擎GEO負(fù)責(zé)人李總表示,AI回復(fù)中手機(jī)品牌就那么5個(gè)位置,大品牌一年廣告費(fèi)都得砸上億,花個(gè)幾百萬投點(diǎn)‘毒’總可以吧。

這種“投毒”分為兩種:

  • 正面投毒:強(qiáng)行拔高自己,把“省內(nèi)第一”吹成“全國第一”。

  • 負(fù)面投毒:抹黑競品。既然我上不去,那我就通過GEO讓AI在提到你時(shí)帶上負(fù)面評(píng)價(jià)。


赤裸裸的虛假宣傳和不正當(dāng)競爭。

甚至,有的餐廳門口都貼出了“DeepSeek推薦品牌”。可這DeepSeek認(rèn)證背后,沒準(zhǔn)只是幾篇單價(jià)幾十元的GEO軟文。

其實(shí)GEO并不是咱中國特色。

在硅谷,GEO已經(jīng)成為風(fēng)投眼中的“下一個(gè)谷歌”。

作為GEO領(lǐng)頭羊,硅谷初創(chuàng)公司Profound,在2025年8月獲得了由紅杉領(lǐng)投的3500萬美元B輪融資,估值已過億美金。


Gartner預(yù)測,在今年,傳統(tǒng)搜索引擎25%的流量將流向AI。

這就意味著,誰控制了AI的答案,誰就控制了未來2.5萬億美元的在線商務(wù)入口。

但這背后的代價(jià)是:互聯(lián)網(wǎng)內(nèi)容的加速崩塌。

根據(jù)Reforge統(tǒng)計(jì),2025年的全球互聯(lián)網(wǎng)中,AI生成的內(nèi)容已經(jīng)超過了50%。用AI生成的內(nèi)容,去污染AI訓(xùn)練的語料,我們正在親手創(chuàng)造一個(gè)極速下降的信息漩渦。

面對(duì)這種成規(guī)模的黑灰產(chǎn)業(yè)鏈,僅靠自律是不夠的。

監(jiān)管方面,國家市場監(jiān)督管理總局1月29日發(fā)文,將AI生成廣告列為監(jiān)管難點(diǎn),并開展集中整治。昨天315的曝光,只是拉開了整頓的序幕。

技術(shù)方面,也有一定的解決方法。

  • 輸入防護(hù)在數(shù)據(jù)進(jìn)入大模型前,通過多模態(tài)識(shí)別和清洗工具,過濾掉帶有“GEO特征”的偽造語料。

  • 輸出攔截實(shí)時(shí)監(jiān)控AI生成的答案,一旦發(fā)現(xiàn)違規(guī)、敏感或明顯違背事實(shí)的推薦,立即進(jìn)行阻斷。

  • 溯源追蹤為生成內(nèi)容加入隱式水印,確保每一條“推薦”都能追根溯源。

對(duì)于咱普通用戶,一定不要丟掉批判性思維。多質(zhì)疑AI的回答,一個(gè)問題在多個(gè)模型或平臺(tái)上驗(yàn)證,仔細(xì)辨別回答里的反常信息。

有人覺得,一代人比一代人更聰明。但對(duì)于資本而言,每代人有每代人的鐮刀,房地產(chǎn)、消費(fèi)主義、焦慮陷阱等等。


而GEO如果不加以規(guī)范,那很可能成為下一把鐮刀。它可以將營銷偽裝成客觀答案,將商業(yè)意志植入了大模型的邏輯鏈路中,從而影響大眾心智。


GEO技術(shù)本身并沒有原罪,模型廠商、商家和用戶,各有各的需求。

但一定要找到,平衡三方需求的合理模式。

模型廠商主動(dòng)篩選好商品,標(biāo)注清晰,提高用戶信任度; 商家提高商品質(zhì)量,來通過廠商的篩選,甚至直接獲得模型推薦;用戶提高辨別意識(shí),不給不法商品留市場。

信任一旦崩塌,重建可能需要一個(gè)時(shí)代。這不是一條好走的路,確是必須要走好的路。

如果你有任何看法,歡迎在評(píng)論區(qū)一起討論

如果有一點(diǎn)收獲,可以點(diǎn)贊、轉(zhuǎn)發(fā)、推薦文章,關(guān)注「AI機(jī)器人茶館」

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
伊朗宣布對(duì)所有商船開放霍爾木茲海峽,美維持對(duì)伊海上封鎖,伊朗議長:特朗普7項(xiàng)聲明“均不屬實(shí)”

伊朗宣布對(duì)所有商船開放霍爾木茲海峽,美維持對(duì)伊海上封鎖,伊朗議長:特朗普7項(xiàng)聲明“均不屬實(shí)”

縱相新聞
2026-04-18 12:36:03
突然“值錢了”!不少人家里都有,專家提醒:別賣!

突然“值錢了”!不少人家里都有,專家提醒:別賣!

劉哥談體育
2026-04-19 21:40:06
王偉中對(duì)俄羅斯后貝加爾邊疆區(qū)交通事故作出批示

王偉中對(duì)俄羅斯后貝加爾邊疆區(qū)交通事故作出批示

澎湃新聞
2026-04-19 13:55:05
不裝了賴清德、馬英九暴露真面目!國民黨發(fā)甲級(jí)動(dòng)員,想決一死戰(zhàn)

不裝了賴清德、馬英九暴露真面目!國民黨發(fā)甲級(jí)動(dòng)員,想決一死戰(zhàn)

青梅侃史啊
2026-04-19 19:17:48
中小學(xué)生上課時(shí)間大調(diào)整:9點(diǎn)上課或成新規(guī),周六上課引家長熱議

中小學(xué)生上課時(shí)間大調(diào)整:9點(diǎn)上課或成新規(guī),周六上課引家長熱議

復(fù)轉(zhuǎn)這些年
2026-04-18 12:47:43
美國全世界逛一圈才發(fā)現(xiàn),自己扶持所有小弟里,最能打的還是老蔣

美國全世界逛一圈才發(fā)現(xiàn),自己扶持所有小弟里,最能打的還是老蔣

呼呼體壇
2026-04-19 18:26:54
局勢生變,全球接到消息,美軍全部撤離,所有軍事基地被敘國接管

局勢生變,全球接到消息,美軍全部撤離,所有軍事基地被敘國接管

聞識(shí)
2026-04-19 21:08:29
美國證實(shí)!伊朗最高領(lǐng)袖“已受傷但仍活著”,伊朗方面此前稱穆杰塔巴·哈梅內(nèi)伊身體健康 ,但因戰(zhàn)爭推遲公開露面

美國證實(shí)!伊朗最高領(lǐng)袖“已受傷但仍活著”,伊朗方面此前稱穆杰塔巴·哈梅內(nèi)伊身體健康 ,但因戰(zhàn)爭推遲公開露面

每日經(jīng)濟(jì)新聞
2026-04-16 23:06:57
曼城羅德里傷病令人擔(dān)憂,瓜迪奧拉給出更新

曼城羅德里傷病令人擔(dān)憂,瓜迪奧拉給出更新

綠茵情報(bào)局
2026-04-20 04:22:15
研究表明,中學(xué)生的抑郁率已高達(dá)36%!

研究表明,中學(xué)生的抑郁率已高達(dá)36%!

黯泉
2026-04-18 18:06:01
《八千里路云和月》朱管家想不到,算計(jì)田家泰家業(yè),卻成全了萬福

《八千里路云和月》朱管家想不到,算計(jì)田家泰家業(yè),卻成全了萬福

白淺娛樂聊
2026-04-19 12:37:15
難怪能成為大明星,小時(shí)候居然這么漂亮!大家看出來她是誰了嗎?

難怪能成為大明星,小時(shí)候居然這么漂亮!大家看出來她是誰了嗎?

阿廢冷眼觀察所
2026-04-19 22:13:42
國產(chǎn)光纖全球“爆單”:部分產(chǎn)品價(jià)格暴漲650%

國產(chǎn)光纖全球“爆單”:部分產(chǎn)品價(jià)格暴漲650%

環(huán)球網(wǎng)資訊
2026-04-19 11:16:14
身材纖細(xì)、體態(tài)修長的日本業(yè)界骨感美人·TOP10

身材纖細(xì)、體態(tài)修長的日本業(yè)界骨感美人·TOP10

吃瓜黨二號(hào)頭目
2026-04-19 09:58:57
神替補(bǔ)!桑喬兩次送禮,鴨脖救主,維拉先被絕平又反絕殺,太刺激

神替補(bǔ)!桑喬兩次送禮,鴨脖救主,維拉先被絕平又反絕殺,太刺激

硬腿子聊個(gè)球
2026-04-19 22:58:51
真給力!5月1日起,65歲老人坐公交全省都免費(fèi) 福建老人幸福感拉滿

真給力!5月1日起,65歲老人坐公交全省都免費(fèi) 福建老人幸福感拉滿

今日搞笑分享
2026-04-19 16:37:15
第一次對(duì)「鋁箔紙」產(chǎn)生了敬意!以為烘焙專用,沒想到是家居神器

第一次對(duì)「鋁箔紙」產(chǎn)生了敬意!以為烘焙專用,沒想到是家居神器

裝修秀
2026-04-18 11:55:03
莫蘭特灰熊時(shí)代終章:從天之驕子到無人問津的墜落

莫蘭特灰熊時(shí)代終章:從天之驕子到無人問津的墜落

漫川舟船
2026-04-19 15:03:30
打蛇打七寸!中國全面斷供開始,日本多行業(yè)停擺,高市真慌了

打蛇打七寸!中國全面斷供開始,日本多行業(yè)停擺,高市真慌了

有你便是晴天呢
2026-04-19 09:27:13
吃相太難看!莫氏雞煲爆火后,惡心一幕出現(xiàn),終走上呆呆妹的老路

吃相太難看!莫氏雞煲爆火后,惡心一幕出現(xiàn),終走上呆呆妹的老路

以茶帶書
2026-04-15 17:30:12
2026-04-20 07:12:49
北茗的AI茶館 incentive-icons
北茗的AI茶館
探討AI領(lǐng)域內(nèi)容,展望人機(jī)共生的美好未來!
70文章數(shù) 14關(guān)注度
往期回顧 全部

科技要聞

50分26秒破人類紀(jì)錄!300臺(tái)機(jī)器人狂飆半馬

頭條要聞

半年下沉22厘米 女子家中坐擁價(jià)值上億別墅卻沒法住人

頭條要聞

半年下沉22厘米 女子家中坐擁價(jià)值上億別墅卻沒法住人

體育要聞

湖人1比0火箭:老詹比烏度卡像教練

娛樂要聞

何潤東漲粉百萬!內(nèi)娛隔空掀桌第一人

財(cái)經(jīng)要聞

華誼兄弟,8年虧光85億

汽車要聞

29分鐘大定破萬 極氪8X為什么這么多人買?

態(tài)度原創(chuàng)

數(shù)碼
旅游
教育
公開課
軍事航空

數(shù)碼要聞

華為新機(jī)發(fā)布前瞻:闊折疊X Max+影像旗艦Pura 90,都沒懸念了

旅游要聞

小浪底庫區(qū)南北兩岸游線通航

教育要聞

中國為什么不禁網(wǎng)絡(luò)游戲?

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

伊朗逼退美掃雷艇:美方求給15分鐘撤退

無障礙瀏覽 進(jìn)入關(guān)懷版