近日，西藏日喀則市發(fā)生6.8級(jí)地震，牽動(dòng)人心。然而，一些網(wǎng)民利用AI技術(shù)生成與地震相關(guān)的虛假圖片，誤導(dǎo)網(wǎng)友。特別是一張“被壓廢墟下的小男孩”圖片在多個(gè)社交平臺(tái)傳播，盡管平臺(tái)標(biāo)明為“疑似AI生成”，許多網(wǎng)友仍被誤導(dǎo)，紛紛關(guān)心男孩的安危。

這類AI生成的圖片危害究竟有多大，我從幾個(gè)角度來說說這件事：

技術(shù)實(shí)現(xiàn)角度

從技術(shù)角度上來講，近幾年深度學(xué)習(xí)、GAN（生成對(duì)抗網(wǎng)絡(luò)）以及擴(kuò)散模型（Diffusion Model）等生成式 AI 技術(shù)迅速成熟，生成圖像的真實(shí)度不斷提升。

早期 AI 合成圖像常常在光影、紋理上存在明顯破綻，容易被發(fā)現(xiàn)；但當(dāng)前的高質(zhì)量生成圖像對(duì)普通公眾而言，僅憑肉眼常常難以快速分辨真?zhèn)巍?/p>

特別是隨著 Midjourney、Stable Diffusion 等開源或商用工具的普及，使用者只需輸入文字描述就能自動(dòng)生成極具逼真感的圖片。移動(dòng)端應(yīng)用也進(jìn)一步降低了操作難度，讓普通用戶也可輕易創(chuàng)作并大量發(fā)布各類虛實(shí)難辨的圖像內(nèi)容。

你看我用ChatGPT的Dalle，幾秒鐘就可以出一張圖片。

需要注意的是，即使圖片有很多漏洞，但是在這種情緒裹挾下，一般人很難注意到這些點(diǎn)。就像被傳播的那張圖片一樣，小孩有六根手指，這是明顯的AI創(chuàng)作的圖片。但一般人真的不太會(huì)注意到這些細(xì)節(jié)。

信息傳播角度

人的注意力和一天中除了吃喝拉撒之外的有效時(shí)間是類似的，都是有限的，關(guān)注A信息的時(shí)候就會(huì)漏看B信息，如果恰好A是偽造的，而B是重要信息，那這個(gè)時(shí)候就造成了注意力的流失。

特別是在社交媒體平臺(tái)上，用戶每天都面對(duì)海量信息，能夠停留、思考與分析的時(shí)間非常有限。

災(zāi)難信息觸發(fā)了用戶的同情心或焦慮情緒，更易激發(fā)快速轉(zhuǎn)發(fā)、點(diǎn)贊或評(píng)論，形成裂變式傳播。

大多數(shù)人看到令人揪心的圖片時(shí)，第一反應(yīng)是“該如何幫助”或“表達(dá)悲痛”，很少會(huì)立刻想去辨別圖片真?zhèn)?。另外在平臺(tái)的推薦算法驅(qū)動(dòng)下，一張高互動(dòng)的“悲情圖片”更容易被繼續(xù)推送給其他用戶，強(qiáng)化了虛假信息的擴(kuò)散。

部分自媒體賬號(hào)為了獲得流量或熱度，會(huì)對(duì)圖片或文字進(jìn)行再包裝，放大了圖像的情感沖擊力，使得真?zhèn)涡畔⒒祀s更加嚴(yán)重。這種二次、三次傳播過程中，信息源頭往往被弱化或丟失，公眾更難追溯原始出處。

它的危害其實(shí)初期并不會(huì)有實(shí)質(zhì)性的危害，比如虛假災(zāi)情圖片可能造成公眾和官方對(duì)救援資源配置與輿論引導(dǎo)的誤判，甚至引發(fā)無端猜測或恐慌，干擾真實(shí)救災(zāi)工作的進(jìn)行。

但如果有真實(shí)受災(zāi)者，他們的情況反而被虛假事件搶奪關(guān)注度，或是混淆了真正需要幫助的人和謠言制造者，真正的災(zāi)害救援信息也容易被虛假內(nèi)容淹沒。

監(jiān)管及預(yù)防角度

這里面的門道就多了，從技術(shù)角度，可以用數(shù)字水印甚至區(qū)塊鏈的方法給每個(gè)生成的作品打上標(biāo)簽，以便迅速定位到始作俑者。

從平臺(tái)角度，這種關(guān)于災(zāi)情的帖子也應(yīng)該更加注意審核，特別是對(duì)AI生成的內(nèi)容，至少得打上疑似的標(biāo)簽。

從用戶角度，也應(yīng)該在轉(zhuǎn)發(fā)之前自我審核一遍，其實(shí)很多時(shí)候就是疏于審核，所以才會(huì)忽略非常多的漏洞。

其實(shí)算是一種合力，才讓這張圖片得以錯(cuò)誤地傳播了出去。

信息始終會(huì)有假信息，但在災(zāi)難面前，利用人們的同情心傳播這些虛假內(nèi)容必定是最惡劣的。我們?cè)谪暙I(xiàn)自己愛心的同時(shí)一定要認(rèn)真辨別，警惕此類虛假信息。