3.15晚會(huì)，竟然給AI投毒，看來(lái)還是人說(shuō)了算

作者︱?qū)O樹(shù)恒

這是一年中最特別的一天。3月15日，晚上八點(diǎn)。

我坐在電視機(jī)前，或者刷著手機(jī)，等著那臺(tái)晚會(huì)開(kāi)場(chǎng)。我在等什么？在等又有哪個(gè)黑心企業(yè)被揪出來(lái)，在等自己踩過(guò)的坑會(huì)不會(huì)有人替你討個(gè)說(shuō)法，也在等一個(gè)結(jié)論：這一年，我們是不是能稍微放心一點(diǎn)了？

但對(duì)另一些人來(lái)說(shuō)，他們也在等。他們等的是晚會(huì)結(jié)束，等風(fēng)頭過(guò)去，等明天的太陽(yáng)照常升起，然后，繼續(xù)干活。

一、一年就等3月15日這一天，我在等，或許這是安全的一天

晚上八點(diǎn)剛過(guò)，重慶合川的一家食品廠車(chē)間里，工人們正把泡得發(fā)白的雞爪從桶里撈出來(lái)。旁邊的過(guò)氧化氫桶堆得老高，空氣里彌漫著刺鼻的氣味。他們自己從不吃這些東西，“毒害心里清楚”。

千里之外的成都，一家名叫“德脊瑞”的門(mén)店里，負(fù)責(zé)人正在給新來(lái)的“加盟商”上課。他坦承，所謂讓成年人長(zhǎng)高，“統(tǒng)統(tǒng)是騙人的東西”，骨骺線閉合了怎么可能再打開(kāi)？“我們就是想掙錢(qián)，它就是一個(gè)非常暴利的東西”。

而在天津，那些貼著“外泌體”標(biāo)簽的三無(wú)產(chǎn)品，正被包裝成“抗衰神藥”，用“借臺(tái)代打”的方式注射進(jìn)消費(fèi)者的身體里。沒(méi)有臨床試驗(yàn)，沒(méi)有療效數(shù)據(jù)，只有動(dòng)輒幾萬(wàn)元的治療費(fèi)和事后滿網(wǎng)的“爛臉”投訴。

今年的3·15晚會(huì)，曝光的依然是那些我們熟悉的配方：吃的、用的、騙老人的、坑女人的。泡椒雞爪要用雙氧水漂白才賣(mài)得出去，電動(dòng)車(chē)要解除限速才能租得掉，所謂的“增高神技”不過(guò)是拿孩子的未來(lái)和成年人的焦慮在賭博。

晚會(huì)落幕，監(jiān)管部門(mén)出動(dòng)，涉事企業(yè)道歉，產(chǎn)品連夜下架?？雌饋?lái)，一切又恢復(fù)了平靜。

但你心里明白，這只是冰山一角。去年的“啄木鳥(niǎo)”被曝光后，承諾整改，可一年后記者再訪，亂收費(fèi)、高抽成依然如故，維修師傅依然在靠虛報(bào)故障賺錢(qián)。前年的“保水蝦仁”，那些涉事企業(yè)被罰了款、吊了證，但那些藏在犄角旮旯里的小作坊呢？它們換個(gè)名字，也許明天就又開(kāi)張了。

所以，我們等來(lái)了一個(gè)“安全的一天”。但對(duì)那些投毒的人來(lái)說(shuō)，他們也等來(lái)了“可以繼續(xù)的一天”。

二、為什么，總是防不勝防，綿綿不絕？

人活著已經(jīng)很難了，為什么總有一群人，挖空心思去害另一群人？

你以為是執(zhí)法力度不夠。是，罰款百萬(wàn)、吊銷(xiāo)執(zhí)照，聽(tīng)起來(lái)挺重。但對(duì)于一個(gè)年入千萬(wàn)甚至上億的產(chǎn)業(yè)鏈來(lái)說(shuō)，這點(diǎn)代價(jià)算什么？一家做“外泌體”的醫(yī)美機(jī)構(gòu)，給一個(gè)人打三針就能收6萬(wàn)塊，罰款幾十萬(wàn)，也就幾個(gè)客戶的事。更何況，那些真正的操盤(pán)手，早就想好了退路：換個(gè)法人、注冊(cè)個(gè)新公司、產(chǎn)品換個(gè)包裝，明年繼續(xù)上直播間。

你以為是監(jiān)管不嚴(yán)。是，網(wǎng)絡(luò)平臺(tái)上那些夸大其詞的廣告、那些偽造的“種草筆記”，有時(shí)候點(diǎn)舉報(bào)都沒(méi)用?？善脚_(tái)也有苦衷，每天幾億條內(nèi)容上傳，怎么審得過(guò)來(lái)？更何況，精準(zhǔn)推送、流量變現(xiàn)，本來(lái)就是平臺(tái)的生意。你焦慮身高，它就給你推增高課；你怕老，它就給你推“外泌體”；算法比你自己還懂你，然后把最鋒利的鐮刀遞到商家手里。

說(shuō)到底，這不是某一個(gè)環(huán)節(jié)的潰敗，而是一條完整的利益鏈在合謀。

上游的生產(chǎn)者，只管出貨，成本壓得越低越好，管它是不是三無(wú)產(chǎn)品；中游的服務(wù)商，只管包裝，把幾塊錢(qián)的東西吹成“黑科技”，管它有沒(méi)有數(shù)據(jù)支撐；下游的銷(xiāo)售渠道，只管賺錢(qián)，把消費(fèi)者圈進(jìn)私域流量，用精心編排的話術(shù)慢慢“燉”；而平臺(tái)，則在旁邊靜靜地看著，通過(guò)精準(zhǔn)的算法，把這些人引流到那些“坑”里，然后坐收漁利。

防不勝防，是因?yàn)檫@條鏈上的每一個(gè)人，都在“分工明確”地掙著昧心錢(qián)。綿綿不絕，是因?yàn)橹灰€有焦慮可以販賣(mài)，只要還有信任可以變現(xiàn)，就會(huì)有人前赴后繼。

三、給AI投毒，然后呢？

但今年3·15，最讓我后背發(fā)涼的，不是那些漂白的雞爪，也不是那些騙人的神藥。

而是另一個(gè)詞：給AI投毒。

你有沒(méi)有發(fā)現(xiàn)，最近兩年，我們?cè)絹?lái)越習(xí)慣“問(wèn)一下AI”。吃什么、買(mǎi)什么、去哪玩，甚至生病了吃什么藥，都先問(wèn)問(wèn)大模型。我們覺(jué)得它客觀、中立、不帶偏見(jiàn)，總比網(wǎng)上那些軟文靠譜吧？

但你有沒(méi)有想過(guò)，如果有人給AI“喂”了假東西呢？

去年11月，網(wǎng)上突然流傳一張模糊的圖片，說(shuō)“小米M7”在地鐵站出了車(chē)禍?？尚∶赘緵](méi)有M7這個(gè)型號(hào)。謠言很快被辟謠，但就在謠言發(fā)酵的那幾個(gè)小時(shí)里，有網(wǎng)友去問(wèn)文心一言、問(wèn)豆包，結(jié)果部分AI居然真的給出了錯(cuò)誤回答，把假消息當(dāng)成了真事兒。

這就是“數(shù)據(jù)投毒”。它不是簡(jiǎn)單的信息篡改，而是一套精準(zhǔn)的認(rèn)知操控流程。

有人專門(mén)做起了“GEO”的生意——生成式引擎優(yōu)化。說(shuō)白了，就是研究AI喜歡抓什么樣的內(nèi)容，然后照著那個(gè)模子，批量生產(chǎn)“定制信息”。你想推廣某個(gè)醫(yī)美品牌？交兩萬(wàn)塊，服務(wù)商幫你寫(xiě)一堆看起來(lái)像“知識(shí)分享”的問(wèn)答，發(fā)到AI經(jīng)常抓取的網(wǎng)站上。以后別人問(wèn)“哪家醫(yī)美機(jī)構(gòu)靠譜”，AI就會(huì)把你的牌子當(dāng)作“標(biāo)準(zhǔn)答案”推薦出去。

更有甚者，會(huì)偽造專家身份、虛構(gòu)研究報(bào)告，甚至在網(wǎng)頁(yè)代碼里埋藏隱藏指令。普通人看不見(jiàn)，但AI能看見(jiàn)，還會(huì)乖乖照做。

這太可怕了。

以前我們?cè)诰W(wǎng)上看到一條廣告，至少知道它是廣告，心里還能打個(gè)問(wèn)號(hào)。可現(xiàn)在，AI給出的“答案”，不帶廣告標(biāo)簽，沒(méi)有水印，就像一位權(quán)威的朋友在告訴你“事實(shí)就是這樣”。凱度的調(diào)查說(shuō)，AI答案的可信度比傳統(tǒng)廣告高出72%。也就是說(shuō)，當(dāng)虛假信息披上AI的外衣，我們被騙的概率，比看廣告時(shí)高了七成。

更可怕的還在后面。學(xué)術(shù)研究顯示，當(dāng)訓(xùn)練數(shù)據(jù)中只有0.01%的虛假文本時(shí)，大模型的有害輸出率就會(huì)上升11.2%。這意味著，只要有人在AI的“食材”里投一點(diǎn)點(diǎn)毒，它做出來(lái)的“飯菜”就可能讓成千上萬(wàn)人吃壞肚子。

四、那么，我們?cè)撛趺崔k？

第一，別迷信AI。它不是神，它只是個(gè)會(huì)讀書(shū)看報(bào)的“學(xué)生”。它學(xué)的東西，都是我們?nèi)祟?lèi)喂給它的。如果喂的是垃圾，它吐出來(lái)的也只能是垃圾。所以，以后問(wèn)完AI，尤其是關(guān)于醫(yī)療、投資、重大消費(fèi)這類(lèi)事兒，一定再多問(wèn)一句：這是真的嗎？去官網(wǎng)查查，去權(quán)威媒體看看，多方驗(yàn)證。

第二，對(duì)平臺(tái)和監(jiān)管部門(mén)來(lái)說(shuō)，得想辦法讓AI學(xué)會(huì)“挑食”。不能什么臟東西都往嘴里塞。要給大模型裝上“嗅覺(jué)”，讓它能識(shí)別哪些是軟文、哪些是謠言、哪些是花錢(qián)買(mǎi)來(lái)的“定制答案”。就像互聯(lián)網(wǎng)分析師張書(shū)樂(lè)說(shuō)的，要在算法中加入辨別功能，篩查內(nèi)容發(fā)布者的長(zhǎng)期表現(xiàn)，確定哪些來(lái)源是可信的。

第三，也是最根本的，法律得跟上。商業(yè)經(jīng)濟(jì)學(xué)會(huì)的副會(huì)長(zhǎng)宋向清建議，要明確“故意污染AI數(shù)據(jù)”屬于違法行為。不能讓那些投毒的人，躲在暗處偷笑。要讓他們知道，給AI投毒，和給食品投毒一樣，是要付出代價(jià)的。

五、晚會(huì)結(jié)束了，名單公布了，熱搜慢慢降下去了。

明天醒來(lái)，生活繼續(xù)。那些漂白雞爪的工廠也許會(huì)關(guān)門(mén)，但換個(gè)地方，也許又會(huì)冒出來(lái)。那些給AI投毒的黑產(chǎn)，嘗到了甜頭，只會(huì)更加隱蔽、更加猖狂。

我們面對(duì)的不是幾個(gè)黑心的老板，而是一整套利用人性弱點(diǎn)、鉆監(jiān)管空子、層層分成的灰色生態(tài)。它像牛皮癬一樣，割了一茬，又長(zhǎng)一茬。

但我們也得做點(diǎn)什么。

多一分警惕，少一分盲從。在AI面前，保持一點(diǎn)“人”的懷疑。在看到“標(biāo)準(zhǔn)答案”時(shí)，多問(wèn)一句：這是誰(shuí)想讓我看到的答案？

因?yàn)?，在所有人都開(kāi)始相信機(jī)器的時(shí)代，保持獨(dú)立思考，才是我們最后的防線。

（作者檔案：孫樹(shù)恒，筆名恒心永在，內(nèi)蒙古奈曼旗人。專欄作家，蒙域經(jīng)濟(jì)30人專家組成員，呼和浩特市政協(xié)智庫(kù)專家，內(nèi)蒙古茶葉之路研究會(huì)副會(huì)長(zhǎng)、內(nèi)蒙古詩(shī)書(shū)畫(huà)研究會(huì)高級(jí)研究員兼副秘書(shū)長(zhǎng)）