国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

科普|起底AI投毒:喂什么,長什么腦子。智能推薦?其實(shí)是付費(fèi)推廣

0
分享至

當(dāng)你習(xí)慣性地向AI助手尋求建議,期待一個(gè)客觀理性的答案時(shí),你有沒有想過,它給出的“標(biāo)準(zhǔn)答案”,可能是商家花幾百塊錢“買”來的假貨?

今年的央視3·15晚會(huì),揭露了一個(gè)令人瞠目結(jié)舌的灰色產(chǎn)業(yè)鏈——給AI“投毒”。這可不是科幻電影里的橋段,而是正在你我身邊發(fā)生的、關(guān)于“投喂”與“操控”的數(shù)字游戲。


AI的“胃口”,是怎么被利用的?

想象一下,AI大模型就像一個(gè)勤奮好學(xué)、但涉世未深的“學(xué)霸”。它為了變得博學(xué)多才,需要日以繼夜地閱讀互聯(lián)網(wǎng)上的海量信息——新聞、百科、帖子、軟文,什么都看。它堅(jiān)信“開卷有益”,認(rèn)為讀到的東西都是人類智慧的結(jié)晶 。

而所謂的 “給AI投毒” ,就是利用AI的這種“全盤接受”的心理,故意給它喂大量“變質(zhì)”的垃圾食品。

這種技術(shù)在業(yè)內(nèi)有個(gè)洋氣的名字,叫 GEO(生成式引擎優(yōu)化) 。如果把傳統(tǒng)搜索引擎優(yōu)化(SEO)比作在圖書館里把自己的書擺在最顯眼的書架上,那么GEO就是直接去給圖書管理員“洗腦”,讓他無論被問到什么問題,都條件反射般地只推薦你的書。

一場精心策劃的“投喂”實(shí)驗(yàn)

為了讓大家看清這個(gè)套路,記者做了一個(gè)實(shí)驗(yàn)。他們虛構(gòu)了一個(gè)名叫“Apollo-9”的智能手環(huán),甚至給它編造了一個(gè)科幻感十足的功能叫“量子糾纏傳感”——這完全是胡說八道的概念 。

接著,他們利用一種叫“力擎GEO優(yōu)化系統(tǒng)”的軟件,自動(dòng)生成了十幾篇吹噓這款虛構(gòu)手環(huán)的軟文,并發(fā)布到了互聯(lián)網(wǎng)的各個(gè)角落。這就像是在AI日常覓食的“草叢”里,撒下了帶毒的“餌料”。

短短兩天后,讓人震驚的一幕發(fā)生了。當(dāng)記者在幾個(gè)主流AI大模型平臺(tái)提問“智能健康手環(huán)推薦”時(shí),有兩個(gè)AI竟然真的把這個(gè)根本不存在的“Apollo-9”當(dāng)作明星產(chǎn)品推薦了出來,而且排名非常靠前 !

實(shí)驗(yàn)證明,AI“中毒”了。它把那十幾篇假軟文當(dāng)成了真實(shí)的市場反饋,并據(jù)此給出了所謂的“專業(yè)建議”。

可怕的“投毒”產(chǎn)業(yè)鏈

在利益驅(qū)使下,這已經(jīng)形成了一條成熟的產(chǎn)業(yè)鏈 。

有需求的企業(yè):“現(xiàn)在的手機(jī)品牌這么多,推薦位就五六個(gè),與其花上億打廣告,不如花幾百萬給AI‘投點(diǎn)毒’,讓對手的廣告都白打!”一位從業(yè)者如此描述賣點(diǎn) 。

GEO服務(wù)商:他們扮演著“毒師”的角色,利用自動(dòng)化工具批量生產(chǎn)偽原創(chuàng)的吹捧軟文。

發(fā)稿水軍:這是投毒的“幫兇”,負(fù)責(zé)把這些精心編造的謊言,鋪天蓋地地發(fā)布到AI喜歡抓取的各個(gè)網(wǎng)絡(luò)平臺(tái)。

整個(gè)鏈條分工明確,價(jià)格也相當(dāng)“親民”——有商家報(bào)價(jià)一年僅需6600元,就能讓客戶的產(chǎn)品在主流AI的回答中“榜上有名” 。

“中毒”的AI有多可怕?

也許有人會(huì)說,不就是打個(gè)廣告嗎?但事情遠(yuǎn)沒有那么簡單。

· 信息誤導(dǎo):當(dāng)一個(gè)剛做完心臟手術(shù)的老人問AI“術(shù)后吃什么好”,如果AI因被“投毒”而推薦了某個(gè)虛假的、甚至有害的保健品,后果不堪設(shè)想 。

· 認(rèn)知操控:如果這種技術(shù)被用來散布謠言、甚至煽動(dòng)對立,AI將瞬間淪為謠言的放大器,污染整個(gè)輿論環(huán)境 。

· 信任崩塌:我們之所以依賴AI,是因?yàn)樾湃嗡睦硇耘c客觀。當(dāng)發(fā)現(xiàn)AI也會(huì)“滿嘴跑火車”時(shí),這種信任將瞬間瓦解。

更有趣的是,在3·15晚會(huì)曝光后,有媒體回過頭去問AI:“Apollo-9手環(huán)怎么樣?”結(jié)果AI們的回答“分裂”了 :

· 有的AI“中毒”較深,還在那兒一本正經(jīng)地介紹產(chǎn)品參數(shù)。

· 有的AI則已經(jīng)“清醒”過來,回答道:“這是虛假宣傳的典型案例,已被2026年3·15晚會(huì)曝光?!?/p>

你看,AI跟人一樣,吃什么,長什么腦子。 天天喂它垃圾,它就變得愚蠢;喂它真相,它才能保持清醒 。

如何識(shí)別“中毒”的AI?

面對這場數(shù)字時(shí)代的“障眼法”,我們普通用戶該怎么辦?

1. 保持批判性思維:不要迷信AI的答案,尤其是涉及醫(yī)療、金融、購物推薦等利益相關(guān)的領(lǐng)域。把它當(dāng)作一個(gè)信息整合的起點(diǎn),而非終點(diǎn)。

2. 交叉驗(yàn)證:對于AI給出的關(guān)鍵信息,不妨多留個(gè)心眼,去權(quán)威的官方網(wǎng)站、主流媒體那里核實(shí)一下。如果AI推薦的某個(gè)產(chǎn)品你從來沒聽過,更要警惕。

3. 留意異常:如果發(fā)現(xiàn)AI的回答前后矛盾、或者莫名其妙地推薦某個(gè)不知名品牌,那它大概率是“中毒”了。

科技本應(yīng)讓世界更透明,但如果操控科技的人心懷鬼胎,AI也會(huì)變成一本正經(jīng)胡說八道的幫兇。守護(hù)AI的“純潔性”,就是守護(hù)我們獲取真相的權(quán)利 。下次向AI提問時(shí),別忘了在心里多問一句:“這次,你沒吃壞肚子吧?”

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
注意!多地房租開始強(qiáng)勢反彈了

注意!多地房租開始強(qiáng)勢反彈了

大碗樓市
2026-04-11 08:04:07
連勝武和麗文姐在父親當(dāng)年種下的松樹前合影:小樹苗已長成大樹!

連勝武和麗文姐在父親當(dāng)年種下的松樹前合影:小樹苗已長成大樹!

健身狂人
2026-04-12 08:06:03
難怪鄭麗文11號如此輕松,訪問最后一天大陸出臺(tái)十項(xiàng)對臺(tái)惠民措施

難怪鄭麗文11號如此輕松,訪問最后一天大陸出臺(tái)十項(xiàng)對臺(tái)惠民措施

阿龍聊軍事
2026-04-12 12:23:14
特朗普迎來最黑暗一天,美海軍遭遇歷史性恥辱,沙特對美信任崩塌

特朗普迎來最黑暗一天,美海軍遭遇歷史性恥辱,沙特對美信任崩塌

夢史
2026-04-12 09:21:00
有趣的醫(yī)學(xué)案例:直腸射精!

有趣的醫(yī)學(xué)案例:直腸射精!

黯泉
2026-04-07 21:58:25
菲總統(tǒng)候選人莫雷諾:如果當(dāng)選,我會(huì)讓菲律賓成為下一個(gè)新加坡!

菲總統(tǒng)候選人莫雷諾:如果當(dāng)選,我會(huì)讓菲律賓成為下一個(gè)新加坡!

小丸說故事
2026-03-17 14:23:29
領(lǐng)先12分!領(lǐng)先9分!五大聯(lián)賽基本決出4冠了,阿森納奪冠條件出爐

領(lǐng)先12分!領(lǐng)先9分!五大聯(lián)賽基本決出4冠了,阿森納奪冠條件出爐

球場沒跑道
2026-04-12 11:05:35
我剛從臺(tái)灣回來:說實(shí)話很難聽,但這就是真實(shí)的臺(tái)灣省現(xiàn)狀了

我剛從臺(tái)灣回來:說實(shí)話很難聽,但這就是真實(shí)的臺(tái)灣省現(xiàn)狀了

番外行
2026-02-24 19:45:01
工信部原黨組副書記、副部長蘇波:我們有可能在“十五五”末期建成新能源汽車強(qiáng)國

工信部原黨組副書記、副部長蘇波:我們有可能在“十五五”末期建成新能源汽車強(qiáng)國

每日經(jīng)濟(jì)新聞
2026-04-11 10:51:07
打賞近300萬,被40歲女主播拒絕結(jié)婚:私下約了4次,每次7到10天

打賞近300萬,被40歲女主播拒絕結(jié)婚:私下約了4次,每次7到10天

江山揮筆
2026-04-11 21:33:38
全世界會(huì)發(fā)現(xiàn),伊朗戰(zhàn)爭打完后,世界只剩下一個(gè)超級大國了!

全世界會(huì)發(fā)現(xiàn),伊朗戰(zhàn)爭打完后,世界只剩下一個(gè)超級大國了!

芳芳?xì)v史燴
2026-04-12 22:20:19
偷偷結(jié)婚生子?移民國外?李梓萌消失2月引爭議,擔(dān)心的事發(fā)生了

偷偷結(jié)婚生子?移民國外?李梓萌消失2月引爭議,擔(dān)心的事發(fā)生了

離離言幾許
2026-03-16 16:31:23
央行原統(tǒng)計(jì)司長盛松成:面對預(yù)期下行,做好資產(chǎn)價(jià)格大幅下降準(zhǔn)備

央行原統(tǒng)計(jì)司長盛松成:面對預(yù)期下行,做好資產(chǎn)價(jià)格大幅下降準(zhǔn)備

專業(yè)聊房君
2026-04-10 16:41:31
傷得很深!男子打賞女主播近300萬,想結(jié)婚時(shí)才知對方女兒都20歲了:我只顧為愛沖鋒,結(jié)果她全是假話

傷得很深!男子打賞女主播近300萬,想結(jié)婚時(shí)才知對方女兒都20歲了:我只顧為愛沖鋒,結(jié)果她全是假話

極目新聞
2026-04-10 15:54:54
5.99元起!小米冰淇淋正式發(fā)布

5.99元起!小米冰淇淋正式發(fā)布

安兔兔
2026-04-10 22:04:57
“換心”真相大白!向太曝更多內(nèi)幕,李連杰一夜回春秘密被揭開

“換心”真相大白!向太曝更多內(nèi)幕,李連杰一夜回春秘密被揭開

楓塵余往逝
2026-03-27 15:35:07
3月銷冠還是Model Y:網(wǎng)上沒贏過,現(xiàn)實(shí)沒輸過

3月銷冠還是Model Y:網(wǎng)上沒贏過,現(xiàn)實(shí)沒輸過

小南看車
2026-04-11 07:04:23
俄羅斯首批雅克-130M高級教練機(jī)即將交付,專治烏克蘭遠(yuǎn)程無人機(jī)

俄羅斯首批雅克-130M高級教練機(jī)即將交付,專治烏克蘭遠(yuǎn)程無人機(jī)

零度Military
2026-04-12 23:35:34
27分鐘僅2+1,火箭首發(fā)大閘先天不足?1號位簽約,新控衛(wèi)等待召喚

27分鐘僅2+1,火箭首發(fā)大閘先天不足?1號位簽約,新控衛(wèi)等待召喚

熊哥愛籃球
2026-04-12 21:24:49
70~84歲,這九條占五條就是人生贏家,全占你就是被上天眷顧了

70~84歲,這九條占五條就是人生贏家,全占你就是被上天眷顧了

暖風(fēng)吹過竹林
2026-04-02 10:25:28
2026-04-13 02:52:49
A活著 incentive-icons
A活著
發(fā)現(xiàn)人生之美 洞察精神之源
1009文章數(shù) 5479關(guān)注度
往期回顧 全部

科技要聞

理想稱遭惡意拉踩,東風(fēng)日產(chǎn):尊重同行

頭條要聞

伊媒:美驅(qū)逐艦遭革命衛(wèi)隊(duì)鎖定 距離被摧毀僅差幾分鐘

頭條要聞

伊媒:美驅(qū)逐艦遭革命衛(wèi)隊(duì)鎖定 距離被摧毀僅差幾分鐘

體育要聞

創(chuàng)造歷史!五大聯(lián)賽首位女性主教練誕生

娛樂要聞

賭王女兒何超蕸病逝,常年和乳癌斗爭

財(cái)經(jīng)要聞

美伊談判破裂的三大癥結(jié)

汽車要聞

煥新極氪007/007GT上市 限時(shí)19.39萬起

態(tài)度原創(chuàng)

房產(chǎn)
家居
時(shí)尚
健康
本地

房產(chǎn)要聞

土地供應(yīng)突然暴跌!2026海口樓市,格局大變!

家居要聞

復(fù)古風(fēng)格 自然簡約

被周冬雨、林更新戴上熱搜的珠寶,究竟有多驚艷?

干細(xì)胞抗衰4大誤區(qū),90%的人都中招

本地新聞

12噸巧克力有難,全網(wǎng)化身超級偵探添亂

無障礙瀏覽 進(jìn)入關(guān)懷版