近日，一段據稱拍攝于美國紐約拉瓜迪亞機場事故現場的短視頻在社交平臺傳播。畫面中，受損嚴重的客機機頭高高翹起，前景還有警員站立，給人一種“現場近距離拍攝視頻”的印象。但經核查，這段視頻并非事故發(fā)生時的原始現場視頻，而是依附真實事故照片，由人工智能二次生成的“擬現場視頻”。

值得警惕的是，這種“真事件+假視頻”的組合，比普通假圖、假消息更容易讓人相信。

面對這類信息，普通受眾該如何警惕？這又對人工智能治理提出了哪些新的挑戰(zhàn)？

拉瓜迪亞機場"墜機視頻”從哪來？

先看事故本身。當地時間3月22日晚，一架加拿大航空快運客機在紐約拉瓜迪亞機場降落時，與一輛機場消防救援車相撞，造成兩名飛行員死亡、多人受傷。也就是說，事故是真的，傷亡情況也是真的。

問題出在后續(xù)傳播的影像上。事故發(fā)生后不久，社交平臺上迅速出現了一段所謂“現場近距離拍攝”的短視頻。視頻里，機頭受損嚴重，前景還有警員站立，畫面很像手機拍下的第一現場，因而具有很強迷惑性。

網傳拉瓜迪亞機場所謂“墜機現場”視頻

不過，沿著傳播鏈條往前追，這段視頻并非事故發(fā)生時的原始視頻，而是由靜態(tài)照片加工生成而來。海外社交平臺X上，賬號@Surflick 在發(fā)布時就直接寫明，這是一張由人工智能大模型Grok依據真實照片制成的動畫畫面。也就是說，先有真實事故照片，再有AI生成的動態(tài)視頻。

根據現有公開可見信息，目前可追溯到的較早傳播節(jié)點之一，由賬號@AZ_Intel在X平臺發(fā)布的事故近景靜態(tài)圖。航空資訊網站自航航空（Paddle Your Own Kanoo）3月23日在報道中，直接引用了該賬號發(fā)布的近景圖，配文是“機艙前部嚴重受損的近景照片”。而在@AZ_Intel發(fā)布照片大約14分鐘后，賬號Surflick發(fā)布了基于事故照片生成的動態(tài)視頻。

真實事故圖片和AI動態(tài)生成圖片在社交平臺的發(fā)布情況

這起事件最值得警惕的地方，不是“事故是假的”，而是“真事故+假視頻形態(tài)”。類似情況，近期并不少見。比如，3月肯尼亞內羅畢洪災造成至少70人死亡后，社交平臺上很快出現多段所謂“災情現場視頻”和圖片，后經核查發(fā)現，其中一些內容其實是AI生成，并非真實災區(qū)畫面。

再如，美國內布拉斯加州3月發(fā)生該州史上最大規(guī)模山火后，網上也迅速流傳多張所謂火場影像。多家核查機構指出，這些畫面并不真實，而是虛構內容。

社交平臺流傳的“肯尼亞內羅畢洪災”和“內布拉斯加州山火”AI圖片

“真事故+假視頻／圖片”，這類信息背后傳播的邏輯非常相似：都依附于真實災難事件，借助公眾對突發(fā)現場畫面的關注，偽裝成“第一現場”迅速擴散，因此更具迷惑性。

那么，面對這種“真事件+假視頻”的新型誤導內容，普通受眾該如何識別？科技平臺和AI企業(yè)又該如何應對？中國國際問題研究院世界和平與安全研究所助理研究員謝卉就此接受了總臺環(huán)球資訊的采訪。

這類“半真半假”的內容為何能得到迅速傳播?

謝卉指出，這種“真事故+人工智能制作的假視頻”的傳播形態(tài)，本質上是一種“更隱蔽的造假方式”。

以拉瓜迪亞機場事件為例，事故本身是真實發(fā)生的，但網上流傳的一些視頻“并不是現場拍攝，而是由靜態(tài)圖片二次生成的動態(tài)畫面”。之所以傳播這么快，核心有三點：

一是真假混合，降低了公眾警惕。

二是視頻比圖片更有沖擊力，容易被當成“第一手目擊”或“現場拍攝”。

三是平臺算法會放大這種“高情緒、高關注”的內容。

謝卉強調，這類內容的風險，已經“不只是信息不夠準確”，它還可能“誤導公眾的判斷”，也可能在災害現場“干擾救援”，長期來看，更會削弱社會對信息的基本信任。

而且，隨著技術發(fā)展，類似造假還會繼續(xù)演化，可能“不只是圖像、視頻”，還可能包括“語音克隆、換臉播報、偽造文件”等，從內容造假進一步走向“身份造假”甚至“權威造假”。

真假難辨 普通受眾如何應對?

謝卉認為，當前人工智能生成內容已經高度逼真，普通人“很難只靠肉眼、靠聽力去判斷真假”。因此，關鍵不在于“能不能去識別它是不是AI生成”，而在于“如何處理那些可能引起懷疑的內容”。

謝卉建議，公眾至少把握三個重點：

第一，對“現場直擊”“剛剛流出”等說法保持高度警惕。

第二，要看信息有沒有明確來源，“是誰拍的，什么時候發(fā)布的”。

第三，盡量做更多的交叉驗證，看看“權威媒體或官方有沒有同步此類信息”。

科技企業(yè)應變身“守門人”

謝卉強調，平臺和科技企業(yè)在其中“不是旁觀者”，而是“守門人”的角色。一方面，在生成端要做好標識，讓AI生成內容“一眼可識別”；另一方面，在傳播端要加強審核，尤其是災害、事故等高風險場景。再則，還應建立快速辟謠或溯源機制，“不能只追求流量而忽視治理”，否則就可能放大平臺或科技企業(yè)這類“半真半假”視頻造成更大風險的可能性。

面對此類挑戰(zhàn) 國內有什么應對措施？

謝卉提出，應對此類挑戰(zhàn)，國內已不只是停留在原則倡議層面，而是已形成了一套比較完整的治理體系”。

首先在規(guī)則層面，2022年已出臺《互聯網信息服務深度合成管理規(guī)定》，明確禁止利用人工智能制作、傳播虛假信息，并要求平臺落實實名審核、內容管理和辟謠機制；2023年的《生成式人工智能管理辦法》，又進一步將責任壓實到內容生成和傳播全過程。

其次在技術標志層面，最新的《人工智能安全治理框架2.0》和《生成合成內容標志辦法》明確提出，要建立“顯示標志和隱式標志機制”，“既讓用戶看得見，也要實行可追溯”，同時推動數字水印等技術應用，從源頭提升識別能力。

第三，在平臺應用層面，在政務公開、司法取證等關鍵場景，已經要求部署深度偽造檢測工具，對疑似人工智能內容進行來源核驗和交叉驗證，同時壓實平臺“守門人責任”。

在國際層面，我國也提出了全球人工智能治理倡議和人工智能全球治理行動計劃，強調“以人為本、智能向善”，反對利用人工智能制造虛假信息，推動構建“可審查、可追溯”的全球治理體系。

來源 | 總臺環(huán)球資訊

策劃、編輯 | 李修莉

簽審 | 賈延寧

監(jiān)制 | 劉軼瑤