近日，有網(wǎng)絡(luò)消息稱“7月1日起老年人坐火車買票可以打折”，經(jīng)核查，該消息不實(shí)，大概率為自媒體利用AI軟件生成，目的為“博眼球、拉流量、變現(xiàn)謀利”。

如今，AI飛速發(fā)展，我們享受便捷的同時(shí)，也會(huì)遭遇“AI幻覺(jué)”，即AI生成一些看似合理但實(shí)際上錯(cuò)誤、虛構(gòu)的信息。

更嚴(yán)重的是，AI還可能會(huì)因?yàn)楸弧巴抖尽倍鲥e(cuò)。什么是“AI投毒”？我們又該如何識(shí)破“投毒陷阱”？

AI是如何被“投毒”的

可能導(dǎo)致哪些后果？

當(dāng)AI能寫詩(shī)、作畫、甚至替你處理工作郵件時(shí)，你是否想過(guò)，它也可能正在被惡意投喂“毒數(shù)據(jù)”，淪為一場(chǎng)技術(shù)暗戰(zhàn)的犧牲品？而具體的“毒數(shù)據(jù)”是指色情、賭博、欺詐信息、虛假信息等。

那么，AI是怎么被“投毒”的呢？螞蟻集團(tuán)大模型安全專家毛宏亮介紹，目前“AI投毒”主要有兩種形式：“一種是在數(shù)據(jù)語(yǔ)料里投放虛假或有害信息，相當(dāng)于有人故意為之；另一種是修改它的模型文件，也就是去修改整個(gè)訓(xùn)練的結(jié)果?！?/p>

通俗來(lái)講，如果把AI比喻成食物的話，語(yǔ)料就相當(dāng)于原材料，權(quán)重就是加工工藝。不論是原材料不新鮮，還是加工工藝出現(xiàn)了偏差，最終生產(chǎn)出來(lái)的食物就會(huì)有問(wèn)題。

“AI投毒”除了會(huì)出現(xiàn)不良信息、虛假信息外，還會(huì)造成更嚴(yán)重的后果。在醫(yī)療領(lǐng)域，被“投毒”的AI可能誤診病情；在金融領(lǐng)域，被篡改的算法可能引發(fā)交易風(fēng)險(xiǎn)；在自動(dòng)駕駛領(lǐng)域，惡意數(shù)據(jù)可能讓車輛在關(guān)鍵時(shí)刻“失明”。

如何防范“AI投毒”風(fēng)險(xiǎn)？

相信算法，也要保留判斷力

“AI投毒”的陰影悄然籠罩技術(shù)圈，為何大規(guī)模虛假信息與數(shù)據(jù)造假事件并未爆發(fā)呢？答案藏于一場(chǎng)隱形的“安全攻防戰(zhàn)”中——從算法層的安全對(duì)齊到系統(tǒng)外的“防護(hù)護(hù)欄”，行業(yè)正通過(guò)多維度技術(shù)手段筑起“數(shù)字防火墻”。

這些措施雖無(wú)法徹底根除風(fēng)險(xiǎn)，卻成功將“AI投毒”的破壞力控制在可控范圍。“‘AI投毒’并沒(méi)有批量化爆發(fā)，沒(méi)有出現(xiàn)大規(guī)模的虛假、造假問(wèn)題，是因?yàn)槲覀冏隽讼鄳?yīng)的安全對(duì)齊措施，包括外置的安全護(hù)欄措施等?！?/p>

針對(duì)“AI投毒”帶來(lái)的風(fēng)險(xiǎn)，毛宏亮介紹，目前行業(yè)一邊為AI輸出結(jié)果套上事實(shí)核查的“緊箍咒”，通過(guò)交叉驗(yàn)證、數(shù)據(jù)溯源等技術(shù)手段攔截“毒信息”；另一邊則強(qiáng)制平臺(tái)為AI生成內(nèi)容打上醒目標(biāo)簽，像“電子水印”般提醒用戶謹(jǐn)慎使用。

我們應(yīng)該如何防范這種風(fēng)險(xiǎn)？

一是使用正規(guī)平臺(tái)和企業(yè)提供的AI工具。

二是科學(xué)合理地使用AI工具，AI產(chǎn)生的結(jié)果可以參考，但不能盲信。

三是注意保護(hù)個(gè)人信息，避免不必要的個(gè)人隱私暴露，同時(shí)不做不良信息的投喂者，共同守護(hù)網(wǎng)絡(luò)家園。

“AI投毒”的爭(zhēng)議本質(zhì)上是技術(shù)狂飆與安全倫理的碰撞。當(dāng)AI深度嵌入我們的生活，從推薦餐廳到自動(dòng)駕駛，從醫(yī)療診斷到金融決策，它的每一次“誤判”都可能引發(fā)連鎖反應(yīng)。

而防范“投毒”的關(guān)鍵，不在于封鎖技術(shù)，而在于重塑人與技術(shù)的關(guān)系——我們既要享受AI帶來(lái)的便利，也要警惕它可能被利用的漏洞；既要相信算法的力量，也要保留人類的判斷力。

往期薦讀

●
● ●
● ● ●重要指示精神

責(zé) 編 | 吉 潔 編 輯 | 馬義超

來(lái) 源：根據(jù)網(wǎng)信陜西綜合整理