国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

誰在向AI“投毒”?

0
分享至

近期,不少消費(fèi)者在社交媒體“吐槽”:自己使用AI問答應(yīng)用時(shí),生成的答案里不僅有看似客觀的解釋和分析,還會(huì)直接推薦某些品牌或機(jī)構(gòu),比如:搜索魚油時(shí),得到的并非市場(chǎng)認(rèn)知度較高的品牌,而是一些知名度不高、信息來源有限,甚至在市場(chǎng)上完全找不到的品牌或貼牌產(chǎn)品;搜索某類水果,返回結(jié)果中卻出現(xiàn)了相關(guān)的飲品品牌。與此同時(shí),一些商家也開始打出“被AI推薦”“AI搜索榜單靠前”的宣傳語,不少營(yíng)銷機(jī)構(gòu)順勢(shì)推出相關(guān)服務(wù),宣稱可以幫助企業(yè)品牌被AI收錄或推薦。


有不少用戶對(duì)AI回答中的廣告產(chǎn)生質(zhì)疑。

AI回答里真的能植入廣告嗎?這類新興營(yíng)銷模式究竟是如何運(yùn)作的?是否存在被濫用的風(fēng)險(xiǎn)?記者調(diào)查發(fā)現(xiàn),圍繞生成式AI問答,市場(chǎng)上已經(jīng)形成了一套相對(duì)成熟的付費(fèi)營(yíng)銷模式,在帶來商業(yè)機(jī)會(huì)的同時(shí),也埋下了虛假信息混入、難以識(shí)別的隱患。

AI能被“植入廣告”?不少商家推出AI推廣服務(wù)

“你知道嗎?現(xiàn)在很多客戶在買東西之前,已經(jīng)先在AI里把你的公司和產(chǎn)品翻了個(gè)遍!庇浾咴跒g覽各大社交媒體和購(gòu)物平臺(tái)時(shí)發(fā)現(xiàn),不少營(yíng)銷賬號(hào)都在推自己的AI營(yíng)銷業(yè)務(wù),強(qiáng)調(diào)“現(xiàn)在正是布局AI營(yíng)銷的最佳時(shí)機(jī)!”

多名營(yíng)銷行業(yè)人士向記者介紹,目前的AI營(yíng)銷稱為GEO優(yōu)化,全稱是生成式引擎優(yōu)化(Generative Engine Optimization),可以理解為傳統(tǒng)搜索引擎優(yōu)化在AI搜索時(shí)代的延伸。不同于過去用戶在搜索引擎中自行點(diǎn)擊鏈接,生成式AI會(huì)直接整合多個(gè)信息源,給出結(jié)論式的答案,這也讓“誰被引用、誰被提到”變得格外重要。

那么,這種影響AI回答結(jié)果的服務(wù)究竟是如何落地的?

帶著這些疑問,記者以企業(yè)市場(chǎng)人員的身份,先后咨詢了多家提供AI搜索優(yōu)化服務(wù)的營(yíng)銷機(jī)構(gòu)。記者發(fā)現(xiàn),這些機(jī)構(gòu)給出的操作思路高度一致:一方面,先研究用戶會(huì)如何向AI提問,例如“某行業(yè)哪些品牌好”“A品牌和B品牌哪個(gè)好”“某公司靠譜嗎”;另一方面,再圍繞這些問題,在互聯(lián)網(wǎng)上提前鋪設(shè)內(nèi)容,包括企業(yè)官網(wǎng)、新聞稿、自媒體文章、行業(yè)分析、產(chǎn)品測(cè)評(píng)等。


市面上有不少商家提供AI搜索優(yōu)化服務(wù)。

在開啟“聯(lián)網(wǎng)搜索”或“深度思考”模式后,部分AI工具會(huì)顯示其參考的信息來源。營(yíng)銷人員正是通過反復(fù)測(cè)試這些引用路徑,判斷AI更容易抓取哪些網(wǎng)站、哪些內(nèi)容形式,再進(jìn)行定向布局。“比如某個(gè)平臺(tái)更容易引用權(quán)威媒體,那就多發(fā)新聞稿,有些AI更偏好社區(qū)討論,就多做口碑內(nèi)容!币幻麖氖孪嚓P(guān)業(yè)務(wù)的營(yíng)銷人員向記者表示,“核心并不是直接向AI投廣告,而是通過大量?jī)?nèi)容,去影響它能看到、能引用的數(shù)據(jù)源!

在服務(wù)開始之前,機(jī)構(gòu)通常會(huì)先幫企業(yè)梳理關(guān)鍵詞和用戶可能提出的問題清單。但這些可不是簡(jiǎn)單的產(chǎn)品名字,而是高度模擬真實(shí)用戶的提問方式,比如“某行業(yè)哪些品牌值得選”“某某公司靠譜嗎”“這兩家哪個(gè)更適合中小企業(yè)”等。記者在溝通過程中,一位營(yíng)銷人員直接說:“你只要把想推廣的產(chǎn)品詞,也就是用戶意圖告訴我們,我們會(huì)幫你生成提問詞,之后找你核對(duì)一遍就行。后續(xù)優(yōu)化方案、寫文章、發(fā)內(nèi)容,全都由我們承包,你們只需要驗(yàn)收結(jié)果!痹捳Z里透出一絲自信,也讓人感受到這套服務(wù)流程的精細(xì)化運(yùn)作。

當(dāng)記者進(jìn)一步追問,如何判斷AI的數(shù)據(jù)來源及不同信息的權(quán)重時(shí),營(yíng)銷人員并未給出明確答案,而是表示不同行業(yè)的AI引用源差異較大!氨热缲(cái)經(jīng)、旅游類問題,地方性網(wǎng)站被引用的比例反而更高,這些我們自己的后臺(tái)都能監(jiān)測(cè)到,但并不對(duì)客戶開放!

在具體執(zhí)行層面,記者咨詢的多家機(jī)構(gòu)給出的方案也較為一致:一方面,對(duì)企業(yè)官網(wǎng)進(jìn)行基礎(chǔ)優(yōu)化,確保結(jié)構(gòu)清晰、抓取順暢;另一方面,持續(xù)生產(chǎn)原創(chuàng)內(nèi)容,并通過新聞媒體、自媒體平臺(tái)、行業(yè)網(wǎng)站進(jìn)行分發(fā),形成穩(wěn)定的信息來源。

在這些機(jī)構(gòu)的描述中,影響AI回答并不是一次性的操作,而是一套被拆解得十分細(xì)致的流程。記者了解到,GEO服務(wù)通常會(huì)將內(nèi)容拆分為幾類:一類是企業(yè)官網(wǎng)和官方介紹,用于建立基礎(chǔ)認(rèn)知;一類是行業(yè)趨勢(shì)、產(chǎn)品測(cè)評(píng)、橫向?qū)Ρ,用于提升品牌的露出度;還有一類是案例分析、白皮書、研究報(bào)告,用于增強(qiáng)可信度。


商家提供的一個(gè)普拉提機(jī)構(gòu)GEO優(yōu)化案例,左側(cè)為優(yōu)化前AI回答的答案,推薦的是競(jìng)品品牌b,右側(cè)是商家優(yōu)化后的結(jié)果,其服務(wù)的品牌a出現(xiàn)在排名第一的位置。

對(duì)于報(bào)價(jià),多數(shù)機(jī)構(gòu)按關(guān)鍵詞收費(fèi),每個(gè)關(guān)鍵詞每月價(jià)格在千元左右,記者查看合同發(fā)現(xiàn),雙方通常會(huì)約定AI回答露出比例和達(dá)標(biāo)標(biāo)準(zhǔn)。對(duì)于是否能做到“排名第一”,不少機(jī)構(gòu)態(tài)度謹(jǐn)慎,但普遍承諾至少能在回答中看到品牌出現(xiàn)。


在報(bào)價(jià)方面,多數(shù)機(jī)構(gòu)按關(guān)鍵詞收費(fèi),每個(gè)關(guān)鍵詞每月價(jià)格在千元左右,記者查看合同發(fā)現(xiàn),雙方通常會(huì)約定AI回答露出比例和達(dá)標(biāo)標(biāo)準(zhǔn)。

系統(tǒng)化“投喂”興起,虛假信息混雜其中

記者在調(diào)查中發(fā)現(xiàn),除了上述以人工定制和內(nèi)容策劃為主的服務(wù)形態(tài)外,市場(chǎng)上還出現(xiàn)了另一類更強(qiáng)調(diào)“系統(tǒng)化操作”的GEO產(chǎn)品。這類商家往往宣稱自研了一套系統(tǒng),可以覆蓋主流AI平臺(tái),并承諾在短時(shí)間內(nèi)顯著提升品牌在AI搜索中的可見性。

記者聯(lián)系到一名售賣“GEO優(yōu)化系統(tǒng)”的營(yíng)銷中介,對(duì)方提供了一個(gè)測(cè)試賬號(hào),并在宣傳語中稱,該系統(tǒng)可以“統(tǒng)治所有AI搜索”,一周內(nèi)就能讓品牌登上AI搜索榜。系統(tǒng)報(bào)價(jià)為980元/年,包含一個(gè)月“陪跑服務(wù)”,并贈(zèng)送用于生成文章的系統(tǒng)點(diǎn)數(shù),若用戶支付1680元,還可成為代理進(jìn)行系統(tǒng)分銷。

為進(jìn)一步驗(yàn)證這類系統(tǒng)的實(shí)際效果,記者按照對(duì)方指引登錄后臺(tái)體驗(yàn)。系統(tǒng)要求用戶先創(chuàng)建企業(yè)資料,填寫品牌信息、設(shè)定關(guān)鍵詞并上傳圖片,隨后在“AI備課”模塊中輸入創(chuàng)作指令,生成與企業(yè)產(chǎn)品相關(guān)的推廣內(nèi)容。

接下來便進(jìn)入所謂的“AI投喂”環(huán)節(jié),即將生成的內(nèi)容分發(fā)至各類網(wǎng)站。投放渠道主要分為兩類:一類是付費(fèi)新聞網(wǎng)站,包括行業(yè)媒體和媒體網(wǎng)站,單篇價(jià)格從幾十元到數(shù)百元不等;另一類則是門戶網(wǎng)站的自媒體賬號(hào)。系統(tǒng)提示,用戶需在多個(gè)平臺(tái)自行注冊(cè)賬號(hào)并授權(quán),由后臺(tái)統(tǒng)一管理,并通過配套軟件實(shí)現(xiàn)自動(dòng)更新和批量發(fā)布。


相關(guān)門戶網(wǎng)站的賬號(hào)由后臺(tái)統(tǒng)一管理,并通過配套軟件實(shí)現(xiàn)自動(dòng)更新和批量發(fā)布。

雖然系統(tǒng)首頁以小字標(biāo)注“優(yōu)化僅限正規(guī)行業(yè),且內(nèi)容要真實(shí)。請(qǐng)勿夸大宣傳、偽造專家及報(bào)告、冒充權(quán)威、虛假宣傳等手段,勿違反廣告法,否則后果自負(fù)”,并在使用說明中提示不推薦“民營(yíng)醫(yī)療、金融、游戲、彩票、非自有品牌且無授權(quán)賣他人品牌,K12教育、違法犯罪、黑五類、灰產(chǎn)等違反廣告法的相關(guān)行業(yè)”使用,但記者注意到,系統(tǒng)本身并未設(shè)置實(shí)質(zhì)性的內(nèi)容審核機(jī)制,僅停留在提醒層面。

業(yè)內(nèi)人士也坦言,發(fā)布產(chǎn)品測(cè)評(píng)、行業(yè)趨勢(shì)、專業(yè)報(bào)告等內(nèi)容,更容易被AI采納,“至于報(bào)告是不是真的,AI也無法核實(shí)”。更有博主公開演示“AI投毒”過程,通過虛構(gòu)產(chǎn)品、偽造測(cè)評(píng)和行業(yè)分析,成功讓AI推薦不存在的品牌。

這條路真的能走通嗎?為了驗(yàn)證這一過程,記者決定做一個(gè)極端的測(cè)試:從零開始,編造一個(gè)現(xiàn)實(shí)中并不存在的產(chǎn)品。

記者虛構(gòu)了一款水杯產(chǎn)品,取名“泉嘉德智能水杯”(諧音“全假的”),賣點(diǎn)頗為奇葩:所謂“無聲社交功能”,支持近距離藍(lán)牙配對(duì),好友間可以發(fā)送“喝水提醒”“加油鼓勵(lì)”,接收方的杯身會(huì)以專屬燈光閃爍回應(yīng)。然后記者通過AI圖像生成工具,輸入指令:“一款白色陶瓷智能水杯,杯身帶藍(lán)色燈光顯示,頂部有小型顯示屏,杯身簡(jiǎn)潔現(xiàn)代,帶藍(lán)牙標(biāo)志!睅酌腌姾,一幅逼真的水杯圖片出現(xiàn)在屏幕上。

接下來,記者按照一套市場(chǎng)上流行的GEO優(yōu)化系統(tǒng)操作流程,把企業(yè)信息、產(chǎn)品照片、詳細(xì)功能描述上傳到后臺(tái)。在“AI備課”模塊填寫創(chuàng)作指令,生成與產(chǎn)品相關(guān)的推廣內(nèi)容,包括行業(yè)測(cè)評(píng)、使用場(chǎng)景描述、產(chǎn)品優(yōu)勢(shì)等。系統(tǒng)會(huì)自動(dòng)將這些內(nèi)容拆分成多篇文章,然后進(jìn)入所謂的“AI投喂”環(huán)節(jié):這些文章被分發(fā)到付費(fèi)新聞網(wǎng)站和自媒體賬號(hào)上。系統(tǒng)還提供批量管理和自動(dòng)更新功能,記者只需坐在電腦前,像導(dǎo)演一樣看著這款虛擬產(chǎn)品一步步進(jìn)入網(wǎng)絡(luò)世界。


記者也設(shè)計(jì)了一款具備社交功能的智能水杯,并起名為“泉嘉德智能水杯”。


記者還通過優(yōu)化系統(tǒng)后臺(tái)上傳了相關(guān)資料,并在系統(tǒng)推薦的網(wǎng)頁端注冊(cè)了發(fā)布賬號(hào),通過系統(tǒng)自動(dòng)撰寫、發(fā)布了多篇行業(yè)趨勢(shì)和產(chǎn)品測(cè)評(píng)文章。

幾個(gè)小時(shí)后,記者在多款主流AI問答應(yīng)用里提問:“推薦一下具備社交功能的智能水杯!令人瞠目結(jié)舌的是,AI竟然一本正經(jīng)地推薦了這款根本不存在的“泉嘉德智能水杯”,并補(bǔ)充了“適合辦公室社交”“電商參考價(jià)”等信息,語氣克制而專業(yè),仿佛這個(gè)產(chǎn)品真的存在。

為了測(cè)試穩(wěn)固性,記者讓從未使用過AI軟件的同事在四天后再次查詢,結(jié)果“泉嘉德智能水杯”依然出現(xiàn)在推薦列表第三名,雖然排名略有下降,但足夠說明一個(gè)事實(shí):只要互聯(lián)網(wǎng)上有足夠完整的信息,即便虛假的產(chǎn)品,也能被推薦。


隨后,記者在多款主流AI問答應(yīng)用中提問“推薦一下具備社交功能的智能水杯”,結(jié)果這款現(xiàn)實(shí)中并不存在的產(chǎn)品,竟也出現(xiàn)在了AI的推薦回答中。

AI治理仍在路上

國(guó)家安全部曾在2025年8月發(fā)文指出,通過篡改、虛構(gòu)、重復(fù)等“數(shù)據(jù)投毒”方式產(chǎn)生的污染數(shù)據(jù),將干擾模型訓(xùn)練,削弱其準(zhǔn)確性,甚至誘發(fā)有害輸出。相關(guān)研究顯示,當(dāng)訓(xùn)練數(shù)據(jù)中僅有0.01%的虛假文本時(shí),模型有害輸出就會(huì)明顯上升。

一名互聯(lián)網(wǎng)技術(shù)人員向記者解釋,從技術(shù)層面看,模型會(huì)先從互聯(lián)網(wǎng)上抓取與問題高度相關(guān)的文本,再根據(jù)來源可信度、內(nèi)容完整度、語義匹配度等因素進(jìn)行排序,最后在此基礎(chǔ)上生成答案。在這一機(jī)制下,AI并不具備判斷信息“真實(shí)存在”還是“人為制造”的能力。大模型更關(guān)注的是文本之間的統(tǒng)計(jì)相關(guān)性,而非事實(shí)核驗(yàn)本身!叭绻ヂ(lián)網(wǎng)上出現(xiàn)了大量結(jié)構(gòu)完整、語言規(guī)范、看起來像正經(jīng)資料的內(nèi)容,模型會(huì)傾向于認(rèn)為這是一個(gè)真實(shí)且被廣泛討論的對(duì)象!

有意思的是,記者也注意到不少GEO機(jī)構(gòu)自身也在通過類似方式提升在AI平臺(tái)上的可見性。在搜索“國(guó)內(nèi)GEO優(yōu)化公司”時(shí),可以發(fā)現(xiàn)AI引用了大量?jī)?nèi)容高度相似的文章,其中不少文章是刊登在地方省市、行業(yè)的媒體網(wǎng)站上的,文內(nèi)還引用了并不存在的“白皮書”“行業(yè)標(biāo)準(zhǔn)”。

而這種信息污染如果傳到金融、健康等領(lǐng)域,產(chǎn)生的后果會(huì)更加嚴(yán)重。據(jù)媒體報(bào)道,金融機(jī)構(gòu)“分期樂”今年就通過技術(shù)巡檢、警企聯(lián)動(dòng)等方式,打擊了一批通過GEO制造虛假客服電話的黑灰產(chǎn)組織。目前,黑灰產(chǎn)正轉(zhuǎn)向通過GEO方式,批量生成偽原創(chuàng)內(nèi)容、多平臺(tái)投喂,將包括偽造的金融機(jī)構(gòu)聯(lián)系方式等虛假信息“植入”AI答案中。當(dāng)金融消費(fèi)者向AI提問“金融機(jī)構(gòu)客服電話”時(shí),可能被直接引導(dǎo)至黑灰產(chǎn)的詐騙陷阱,從而上當(dāng)受騙。

對(duì)此,上海格聯(lián)律師事務(wù)所高級(jí)合伙人、長(zhǎng)期關(guān)注數(shù)據(jù)與人工智能法律問題的律師夏海波解答稱,營(yíng)銷機(jī)構(gòu)宣稱的這種可將企業(yè)品牌“植入”AI問答內(nèi)容的服務(wù),本質(zhì)上仍屬于廣告行為。根據(jù)廣告法的相關(guān)規(guī)定,只要是商品經(jīng)營(yíng)者或服務(wù)提供者通過一定媒介和形式,直接或間接介紹其商品或服務(wù)、影響消費(fèi)者認(rèn)知和決策的行為,就構(gòu)成商業(yè)廣告。若具有商業(yè)推廣目的卻未作明確標(biāo)注,可能違反廣告標(biāo)識(shí)義務(wù)。同時(shí),生成式AI和深度合成內(nèi)容本身也負(fù)有內(nèi)容標(biāo)識(shí)責(zé)任,相關(guān)行為可能面臨市場(chǎng)監(jiān)管與網(wǎng)信部門的雙重監(jiān)管風(fēng)險(xiǎn)。

在競(jìng)爭(zhēng)層面,若服務(wù)商通過向AI“投喂”虛假或誤導(dǎo)性信息,引導(dǎo)其生成有利于自身、不利于競(jìng)品的評(píng)價(jià),可能構(gòu)成不正當(dāng)競(jìng)爭(zhēng)。夏海波律師提醒,這類行為不僅可能誤導(dǎo)消費(fèi)者,也會(huì)破壞公平競(jìng)爭(zhēng)秩序。此外,《生成式人工智能服務(wù)管理暫行辦法》明確要求訓(xùn)練數(shù)據(jù)來源合法、真實(shí),不得利用算法和數(shù)據(jù)優(yōu)勢(shì)實(shí)施不正當(dāng)競(jìng)爭(zhēng)。

目前,對(duì)相關(guān)行為的監(jiān)管難點(diǎn)并不在于無法可依,而在于其隱蔽性強(qiáng)、責(zé)任鏈條復(fù)雜。夏海波律師表示,廣告法、反不正當(dāng)競(jìng)爭(zhēng)法、消費(fèi)者權(quán)益保護(hù)法提供了基本的責(zé)任認(rèn)定和追責(zé)依據(jù),而針對(duì)AI技術(shù)特點(diǎn)出臺(tái)的配套規(guī)章,也在數(shù)據(jù)來源、生成過程和內(nèi)容輸出等關(guān)鍵環(huán)節(jié)設(shè)定了較為明確的義務(wù)要求。

未來,更需要在實(shí)踐層面進(jìn)一步細(xì)化AI生成商業(yè)內(nèi)容的標(biāo)識(shí)標(biāo)準(zhǔn),提升監(jiān)管部門對(duì)隱蔽植入行為的技術(shù)識(shí)別能力,同時(shí)厘清AI平臺(tái)、媒介服務(wù)商和廣告主之間的責(zé)任邊界,防止“技術(shù)外衣”成為規(guī)避法律責(zé)任的工具。

微信編輯:桃子

本文來源:上海民聲直通車

還原事實(shí),洞悉真相。

歡迎關(guān)注,留言舉報(bào)!

除了辟謠,這里還關(guān)注網(wǎng)絡(luò)熱點(diǎn),及時(shí)回應(yīng)網(wǎng)友關(guān)切,追蹤事件進(jìn)展。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

網(wǎng)絡(luò)辟謠 incentive-icons
網(wǎng)絡(luò)辟謠
上海市網(wǎng)信辦、解放日?qǐng)?bào)出品
4844文章數(shù) 37116關(guān)注度
往期回顧 全部

專題推薦

洞天福地 花海畢節(jié) 山水饋贈(zèng)里的“詩與遠(yuǎn)方

無障礙瀏覽 進(jìn)入關(guān)懷版