觀察下面這張圖片，你認(rèn)為這是真實(shí)拍攝的，還是 AI 生成？

看著是有點(diǎn)可疑，比如有一些汽車的車門、堆起來的樣子，好像是拼接起來的。

那下面這兩張呢？

如果不仔細(xì)查證，你可能有點(diǎn)不信：它們?nèi)际桥臄z出來的「真照片」。

十月底開始，西班牙瓦倫西亞地區(qū)經(jīng)歷特大暴雨，一天的降雨量相當(dāng)于一年，還下得連綿不斷。

而瓦倫西亞地區(qū)，街道有很多斜坡，這么大的水量完全可以讓汽車浮起來，并且沿著斜坡一路往下。最后當(dāng)洪水退去，就出現(xiàn)了最開始的照片中的景象。

可是在面對這些照片的時(shí)候，很多人的反應(yīng)是：AI 做的吧，假新聞。

也不能說這些人不講理，確實(shí)也是被騙到過。之前美國佛羅里達(dá)州被颶風(fēng)襲擊，一張穿救生衣的小女孩。在救生艇上抱著小狗流眼淚的圖片，就橫掃了社交網(wǎng)絡(luò)。

仔細(xì)看的話，這張圖比上面的暴雨圖「AI 味」更重，從手指細(xì)節(jié)，到身體姿勢，都有種說不出的怪異。

果不其然，原帖的帖主也并不知道這張圖是從哪兒來的，發(fā)出來只是為了表達(dá)自己的對受災(zāi)人民的同情。

現(xiàn)在，平臺(tái)已經(jīng)補(bǔ)充了背景信息，強(qiáng)調(diào)這是一張生成出來的圖片，而非真正拍攝出來的「照片」。

在救生衣女孩這張圖上，網(wǎng)友們的懷疑精神讓平臺(tái)迅速反應(yīng)，補(bǔ)充了警告。但是同樣的懷疑精神，在另一場災(zāi)難中，就不再奏效。

畢竟，AI 生圖確實(shí)越來越真假難辨。又因?yàn)橐淮我淮�，總有人拿�?AI 圖來博眼球，最后變成了大型「狼來了」現(xiàn)場。

越逼真，越危險(xiǎn)

在評價(jià)由 AI 生成的圖片或視頻時(shí)，是否足夠?qū)憣?shí)，一直是最重要的標(biāo)準(zhǔn)之一。

圖像是不是足夠?qū)憣?shí)、逼真，對背后的模型提出了很多挑戰(zhàn)：是不是掌握自然語言的規(guī)則？是否理解了常識(shí)和現(xiàn)實(shí)世界的規(guī)律？能不能理解上下文當(dāng)中的信息，并且呈現(xiàn)出來？

這是對模型能力的考驗(yàn)，也是反映各家技術(shù)力的有效指標(biāo)。

一開始，大家也為 AI 能夠生成出無比逼真的圖像而感到興奮。可是后來，越來越多的「開局一張圖，剩下全靠編」的新聞出現(xiàn)了，而且越來越難以分辨。

六月時(shí)，社交媒體上出現(xiàn)西安發(fā)生特大爆炸的消息，時(shí)間地點(diǎn)俱全。但是西安警方核對之后，發(fā)現(xiàn)并沒有這回事。這條消息是用一家 MCN 機(jī)構(gòu)所持有的賬號(hào)發(fā)出來的。

被警方抓獲后，主犯交代自己是利用了 AI 工具，給定 prompt，工具就會(huì)自動(dòng)在網(wǎng)絡(luò)上抓取相關(guān)的文章，然后生成幾百到上千字的文本。

最高峰一天能生成 4000 至 7000 條信息，全程幾乎不需要人工參與，而且專門挑民生相關(guān)、熱度高的話題和事件——有研究表明，消極、負(fù)面、激發(fā)情緒的信息，往往更容易抓住人的注意力，這是由我們的頂葉和額葉區(qū)域結(jié)構(gòu)決定的。

一番操作下來，僅僅只靠發(fā)假消息，薅平臺(tái)流量，騙子的日均收入高達(dá) 1 萬元。這對于閱讀、轉(zhuǎn)發(fā)和評論了這種假消息的用戶來說，氣憤是在所難免的。

假照片還是實(shí)實(shí)在在地，騙過所有人的眼睛，造成了市場恐慌。去年五月時(shí)，一張五角大樓發(fā)生爆炸的照片，迅速流傳。

還沒等專業(yè)的新聞機(jī)構(gòu)核實(shí)，這張照片就迅速流傳。因?yàn)閯偤冒l(fā)布在美國股市當(dāng)天的開盤時(shí)間，很多投資相關(guān)的網(wǎng)站和社媒賬戶都轉(zhuǎn)發(fā)了，導(dǎo)致標(biāo)準(zhǔn)普爾 500 指數(shù)下跌 0.3%。黃金和美國國債的價(jià)格小漲了一波，有部分投資者把資金轉(zhuǎn)移到了更穩(wěn)健的產(chǎn)品上。

最后是轄區(qū)的消防部門出面辟謠，才讓事態(tài)平息。

太依賴「眼見為實(shí)」，不僅會(huì)傷害感情，還會(huì)傷害錢包啊。于是就出現(xiàn)了反向操作：一律打成 AI。

反向操作，只要不認(rèn)識(shí)，就是 AI 圖

這樣做的背后，起碼有一個(gè)原因是成立的：躲開平臺(tái)的推送。

Meta 是明確表示要高舉 AI 大旗，扎克伯格認(rèn)為，有必要專門加一個(gè)版塊給 AI 生成或者輔助生成的內(nèi)容，他說，「我非常有信心，在未來幾年里，這將成為重要的趨勢之一和重要的應(yīng)用之一」。

Meta 旗下有 Facebook 和 Instagram 兩個(gè)重要的內(nèi)容平臺(tái)，而在前者上，AI 生成內(nèi)容越來越多見，因?yàn)樗募?lì)政策很誘人：每個(gè)超過 1000 贊的帖子，最高可以獲得 10 美元的曝光獎(jiǎng)勵(lì)。

有一說一，如果能堅(jiān)定執(zhí)行「一律打成 AI」的路線，有效打擊假消息的傳播，倒逼平臺(tái)不再給這些內(nèi)容推流量、給補(bǔ)貼，說不定是個(gè)走得通的路子。沒有買賣，就沒有傷害。

然而，這種真假難辨的情況，可能會(huì)讓真正的傷害，消失在互聯(lián)網(wǎng)的信息海洋中。

互聯(lián)網(wǎng)觀察基金會(huì) IWF 報(bào)告，在過去六個(gè)月里，由人工智能制作的非法內(nèi)容數(shù)量已經(jīng)超過了前一年的總量。而且都是在社交平臺(tái)、公共圖庫等公開平臺(tái)上發(fā)現(xiàn)的。

這些非法內(nèi)容包括 AI 生成的兒童色情圖片、視頻；融合了明星名人的照片的 Deepfake 視頻；生成的兒童性虐待裸照等等。

更嚴(yán)重的問題是，很多 AI 生成的內(nèi)容已經(jīng)到了一個(gè)臨界點(diǎn)。由于過于逼真，工作人員不能輕易確定假圖里面是不是有真人，是不是真的有兒童遭到虐待、需要介入。

作為非營利組織，IMF 這樣的機(jī)構(gòu)只能是收集證據(jù)、與平臺(tái)交涉要求刪除。而真正有能力進(jìn)行更深一步調(diào)查的，只有警方和其他執(zhí)法人員。

當(dāng)海量的生成照片需要他們來處理，而這些照片都逼真的無人能辨別時(shí)，「一律打成 AI」會(huì)導(dǎo)致真照片混雜其中，沒法被辨識(shí)出來，從而錯(cuò)過干預(yù)的機(jī)會(huì)。

IWF 的分析師表示，「我們所處理的幾乎所有包含 AI 生成的兒童性虐待材料的報(bào)告或鏈接，都是在明網(wǎng)上發(fā)現(xiàn)的。像我們這樣的組織或者警察，可能會(huì)被成百上千張新圖片壓垮，我們并不總能知道是否真的有一個(gè)孩子需要幫助」。

類似的，當(dāng)「狼來了」的游戲不斷擴(kuò)大，真正反映、通報(bào)險(xiǎn)情的消息，被安上「AI 做的吧」，從而錯(cuò)過最佳施救時(shí)間，也是一種惡果。

從「眼前為實(shí)」到「眼見不再為實(shí)」的過程中，消失的是在網(wǎng)上沖浪時(shí)的信任。出于自我保護(hù)、減少謠言散布，一律打成 AI 的確是一種有效策略。但一切都不值得相信的世界，會(huì)更好嗎？

黑神話悟空獲 2024 金搖桿獎(jiǎng)年度游戲大獎(jiǎng)/ABC 創(chuàng)始人道歉并回應(yīng)衛(wèi)生巾爭議/卡西歐「戒指」電子表亮相 |驚嘆周報(bào)

卡西歐50年前的設(shè)計(jì)，怎么如今仍是「頂流」