之前刷到個帖子，提到有部講述中國高鐵發(fā)展的紀(jì)錄片，用了AI生成的畫面。

這部紀(jì)錄片是系列節(jié)目中的一集，有爭議的畫面展示了一段架梁作業(yè)的過程。

整個畫面AI味十足，也不符合實(shí)際情況。

至少三歲小孩都知道，要先帶好安全帽，才能進(jìn)入這種大型施工現(xiàn)場，而圖上卻有這么多人不帶安全帽，還站在施工設(shè)備正下方。

更專業(yè)的網(wǎng)友指出，視頻中呈現(xiàn)的這種建筑結(jié)構(gòu)，也并非國內(nèi)高鐵箱梁的常用結(jié)構(gòu)。

如果真要這么搭建，安全事故跑不了。

但最直接的證據(jù)是，畫面下方直接標(biāo)注了“豆包AI”的水印，還真沒準(zhǔn)備藏。

雖然現(xiàn)在在官網(wǎng)上看這期節(jié)目的回放，已經(jīng)找不到這段AI畫面了，取而代之的是一張舊照片。

但在其它視頻平臺上，還有當(dāng)時留存下來的初始版本，可以證明博主所言非虛。

這樣的事情并非孤例。

2021年，導(dǎo)演摩根·內(nèi)維爾拍攝了紀(jì)錄片《流浪者：一部關(guān)于安東尼·波登的電影》，追蹤了一位已故知名廚師的人生故事。

大部分人物傳記，都會使用主角生前留下的探訪、節(jié)目等等影像和聲音記錄作為線索，串聯(lián)起人的一生。這部也不例外。

其中一幕，出現(xiàn)了波登閱讀自己回復(fù)好友的一份電子郵件的聲音，聽起來很有沖擊力。

而問題在于，當(dāng)事人讀郵件的音頻是怎么獲取的呢？制作人表示，是AI合成的。

帶來的連鎖反應(yīng)是，觀眾們開始對整部影片內(nèi)容產(chǎn)生懷疑，因?yàn)榇蠹覠o從判斷是否還有更多聲音或畫面來源于AI，而非真實(shí)存在。

反正波登本人已經(jīng)無法澄清了。

這種情況讓我很困惑。

用AI來做別的內(nèi)容，比如電影，比如綜藝畫面，我都可以理解，畢竟用起來很方便。

但是這不是紀(jì)錄片嗎？

紀(jì)錄片的意義就是記錄真實(shí)的生活、拍攝具體的真人真事。它的核心只是真實(shí)。

這個過程可以有藝術(shù)加工，但是不應(yīng)該有胡編亂造，更不應(yīng)該是憑空生成啊。

結(jié)果現(xiàn)在，拍紀(jì)錄片都用上AI生成畫面、聲音，生成的內(nèi)容甚至還可能完全違背邏輯，和事實(shí)不匹配，那真實(shí)又被置于何地了呢？

要知道，人的記憶是不可靠的。

所以我們靠各類媒介凝固、保存和傳承應(yīng)該記得的東西，紀(jì)錄片也是其中之一。

而很多紀(jì)錄片的內(nèi)容是會被反復(fù)引用的，因?yàn)橛^眾默認(rèn)紀(jì)錄片內(nèi)容是經(jīng)過嚴(yán)謹(jǐn)考證的。

現(xiàn)在，分不清真假的AI素材被融入到紀(jì)錄片中，在互聯(lián)網(wǎng)上、在其他電影中被作為“真實(shí)”的影像被傳播出去，很可能會混淆歷史和真相。

就像檔案制作聯(lián)盟在《好萊塢報(bào)道》上發(fā)表的公開信中說到的那樣：“人工智能生成的素材在互聯(lián)網(wǎng)上、在其他電影中被作為‘真實(shí)’的影像傳播出去，這將可能永遠(yuǎn)混淆歷史記錄。”

更嚴(yán)重的，還會引發(fā)集體記憶的扭曲。

另一方面，AI雖然沒有立場，但是使用AI的人有立場。因此我們也無從判斷，AI生成的內(nèi)容是否可能混雜個人或算法的偏見。

本來現(xiàn)在AI幻覺就很嚴(yán)重，人工智能總會根據(jù)你的需求編造一些你覺得合情合理的東西，那些都是假的，卻會被信以為真。

一旦這些虛實(shí)混雜的內(nèi)容進(jìn)入以真實(shí)為本的紀(jì)錄片市場，并且開始傳播時，我們又該如何分辨幻覺和真相，分辨孰真孰假、孰對孰錯呢？

如此種種，都會導(dǎo)致紀(jì)錄片的公信力被弱化，讓紀(jì)錄片提供的內(nèi)容更加真假難辨。

長此以往，紀(jì)錄片的意義又在哪里呢？

事實(shí)上，遠(yuǎn)不只是紀(jì)錄片，現(xiàn)在越來越多立足于真實(shí)的領(lǐng)域，都被AI產(chǎn)物混淆了。

每天上網(wǎng)刷手機(jī)，看到的很多離譜新聞就是是AI編造出來的。他們比人類有創(chuàng)意多了，很容易編出那種駭人聽聞的新聞，讓人大肆傳播。

前陣子，很多人用AI偽造流浪漢跑進(jìn)家里的視頻和人開玩笑，就是很好的例子。

還有很多需要專業(yè)知識的領(lǐng)域，也混進(jìn)了AI的身影，充斥著胡編亂造的痕跡。

AI還會批量復(fù)活那些已經(jīng)去世的公眾人們，讓他們再次回歸公眾視野。

于是你可以看到伊麗莎白二世在摔跤場肉搏、邁克爾·杰克遜在短視頻里扭動、甚至是馬丁·路德·金在演講中突然來了一段罵人。

你還能看到李玟、喬任梁、高以翔對著鏡頭訴求對家人、粉絲的思念。

這也導(dǎo)致有人很容易就會假借這些過世名人的名義來做一些名不符實(shí)的宣傳。

像“茶界泰斗”張?zhí)旄�，之前就被一家茶企給復(fù)活了，用來給自己打廣告。

這就很離譜啊。人都不在了，還能站出來夸你的茶好，這不就是純純在騙人嗎？

消費(fèi)者被騙了，逝者家屬也很苦。

他們要被迫觀看一個機(jī)器生成的糟粕，用自己親人的臉，說根本沒說過的、甚至違心的話。

完全是對生命、記憶、歷史和真實(shí)的踐踏。

還有更荒謬的。

就在最近，湖北孝感大悟法院審理了一起房屋租賃合同糾紛。起因是租客沒有支付后半年租金及水電費(fèi)，被房東告上法庭。

結(jié)果一看證據(jù)，原告提供的用于證明租客欠費(fèi)的水電表照片，全是AI做出來的，都來不及把“豆包AI生成”的水印給抹掉。

發(fā)展到此，AI已經(jīng)不僅在偽造真相、混淆視聽了，更是直接攻擊社會公平與正義的防線。

當(dāng)AI生成的臉虛假信息以高度逼真的形式滲透進(jìn)紀(jì)錄片、新聞報(bào)道，乃至是法庭的時候，我們面臨的將是一個真假難辨的“羅生門”時代。

造假這種行為當(dāng)然比AI出現(xiàn)得早太多了，但問題在于AI會大大降低造假的門檻，甚至大大解放造假者的勞動付出和成本。

某種程度上，AI放大的不是虛假和謊言，只是人性中固有的貪婪與虛榮。

如果說以前只有千分之一萬分之一的人有能力造假，那么現(xiàn)在就是哪怕小學(xué)沒讀完，哪怕不認(rèn)識幾個字，都可以利用AI來造假。

再加之，如今是流量為王的時代。

沒素質(zhì)的人會故意制造各種假東西來博關(guān)注，好利用別人的關(guān)注換流量，也換錢。

AI天生就會制造爆點(diǎn)，編出來的內(nèi)容既囊括了時下的熱點(diǎn)，又創(chuàng)造了各種立場沖突，怎么看怎么聳人聽聞，很容易獲得流量和收益。

于是引發(fā)惡性循環(huán)。

舉個例子。一個有操守的人，平時寫新聞寫文章，靠的是自己查資料、自己啃筆頭。就算用AI當(dāng)工具，也會主動審核，把假信息篩出來。

這樣的新聞?wù)鎸?shí)，可能就不夠有爆點(diǎn)，那么點(diǎn)擊率不夠，也沒啥收入和正反饋。

久而久之，人就沒有寫的動力了。

但沒操守沒素質(zhì)的人不在乎。他們不需要很多時間，也不在乎真相，只在乎夠不夠勁爆。

讓這樣的人吃到流量賺到錢，只會激勵他們用這種方式繼續(xù)操作下去， 最后賺得盆滿缽滿。

典型的劣幣驅(qū)逐良幣。

結(jié)果就是AI炮制的假消息會越來越泛濫，我們深信不疑的 “眼見為實(shí)” 會徹底失效。

久而久之，社會賴以運(yùn)行的信任越來越少，人與人之間的鏈接也就越來越弱。

這是件很可怕的事情。

我們當(dāng)然可以去借助一些完善的規(guī)則對AI生成的內(nèi)容進(jìn)行合理的規(guī)范。

比如，任何使用AI進(jìn)行生成的內(nèi)容，都應(yīng)該有完整的、醒目的標(biāo)識，不能夠以假亂真。畢竟不是所有觀眾都有辨別真假的能力。

如果涉及到重要的事實(shí)，一定要引入專業(yè)人士和材料進(jìn)行審核，而不能光聽AI的。

又比如，和個體相關(guān)的畫面、聲音，都要尊重個體隱私，沒有人天生就應(yīng)該成為AI的素材，哪怕對方是生活在鎂光燈下的公眾人物。

但是這些規(guī)范并不是萬能的。

因?yàn)橹灰欣妫鸵欢〞腥藭b而走險(xiǎn)，去做有風(fēng)險(xiǎn)但能夠獲得利潤的事情。

或許有些悲觀，但未來我們可能就會生活在這樣一個真假難辨的世界，我們需要花很多精力去分辨一張照片、一件事、一個人的真假，去孤獨(dú)地打撈那本來就所剩無幾的真相。

感 謝 閱 讀 ?? 歡 迎 分 享