生成式AI如何助推“互聯(lián)網(wǎng)已死論”，引發(fā)真實性危機，以及為什么AI檢測工具無法拯救我們。

作者：ToxSec2025年10月28日

AI正在加速“互聯(lián)網(wǎng)已死”理論的出現(xiàn)。

簡而言之：你在網(wǎng)上感受到的那種詭異感是真實的?；ヂ?lián)網(wǎng)上充斥著大量AI生成內容，它們模仿人類的能力遠勝于我們識別它們的能力。真實性已然終結。我會向你解釋為什么我們在這場戰(zhàn)斗中已經(jīng)節(jié)節(jié)敗退。

• 我們已經(jīng)從‘垃圾信息時代’邁入了‘模擬造假時代’。

“恐怖谷效應” 籠罩整個互聯(lián)網(wǎng)

坦白說，你肯定也有過這種感受：刷網(wǎng)頁時突然覺得不對勁。讀產(chǎn)品評論，某條寫得過于完美，精準踩中所有營銷關鍵詞，熱情得不像真人；看評論區(qū)，某條回復千篇一律，毫無靈魂，仿佛是用一堆 “安全話術” 拼湊而成。語法無可挑剔，卻少了人類該有的靈氣。

多年來，我們都把這些情況歸為普通垃圾信息。但這種詭異感越來越頻繁，而且虛假內容不再粗糙。曾經(jīng)零星的偽造信息如今已泛濫成災，AI生成的內容鋪天蓋地而來。我們正飛速從 “人類為人類打造的互聯(lián)網(wǎng)”，轉向 “機器為人類打造的互聯(lián)網(wǎng)”—— 而這些機器的 “工作能力” 已經(jīng)可怕到令人心驚。

這絕非 “更高級的垃圾信息” 那么簡單。我們正在親眼見證一個個性化、合成化的虛擬世界誕生。

“互聯(lián)網(wǎng)已死理論”迎來重大升級

為了把握未來的發(fā)展方向，我們必須回顧一下“互聯(lián)網(wǎng)已死論”。這個理論最初在網(wǎng)絡論壇上興起，是一種聽起來頗為可信的陰謀論。其核心觀點是，互聯(lián)網(wǎng)早已空洞無物，大量的網(wǎng)絡活動都是由機器人偽造的，目的是為了操縱搜索算法和廣告收入。當時，大多數(shù)人將其視為科技界的妄想癥。

嗯，這種擔憂現(xiàn)在看來頗具先見之明，因為這些機器人剛剛通過大型語言模型（LLM）進行了重大升級。過去簡單的腳本已被生成式人工智能所取代。這種變化令人震驚。如果說舊機器人是提線木偶，那么現(xiàn)代AI就是一支充滿創(chuàng)造力的智能體大軍，能夠以驚人的規(guī)模構思出獨特、貼合語境、酷似人類的合成內容。

這項技術飛躍徹底改變了游戲規(guī)則。新一代AI的目標是更高層次的博弈：模擬文化本身。其目標不再是偽造一條評論，而是制造一種廣泛的社會共識感。

歡迎來到你的專屬虛假互聯(lián)網(wǎng)

真正的危險不在于互聯(lián)網(wǎng)充斥著虛假內容，而在于這些內容是 “為你量身定制” 的。我們面臨的不是一個統(tǒng)一的虛假互聯(lián)網(wǎng)，而是數(shù)百萬個個性化的AI虛擬世界。這便是終極的AI回音室，一個完美的現(xiàn)實氣泡，你可能根本意識不到自己是唯一的 “居民”。

想象一下，一個搜索引擎能夠即時生成文章，完美地印證它認為你已經(jīng)相信的事情。再想象一下，社交媒體上的所有評論都來自AI生成的、旨在與你觀點一致的賬號。這就是在個人層面上制造認同的方式。當你看到的每篇文章、每條評論都支持你的世界觀時，它就不再是 “觀點”，而會變成你眼中的 “客觀事實”。

最大的犧牲品是 “偶然性”—— 那種偶遇新想法、接觸反對意見的魔力?；ヂ?lián)網(wǎng)曾是混亂卻真實的公共廣場，而AI定制的現(xiàn)實里沒有 “意外之喜”。它是一個干凈的空間，通過消除認知失調讓你保持沉浸，卻也為定向AI虛假信息鋪平了道路。

AI檢測領域的軍備競賽已經(jīng)輸了

所有人都會問：“我們不能開發(fā)AI內容檢測工具嗎？” 想法很好，但我們正陷入一場注定要輸?shù)寞偪褴妭涓傎?—— 生成器永遠占據(jù)上風。

檢測工具的工作原理是識別AI模型留下的細微統(tǒng)計“痕跡”。但是，我們每開發(fā)出一個智能檢測器，就會有更智能的人工智能被訓練來隱藏這些痕跡。這是一場永無止境的貓鼠游戲，老鼠會根據(jù)貓的最后舉動重新設計自己。像“加水印”這樣的解決方案非常脆弱；不法分子只需使用沒有水印功能的模型即可。

當技術之爭注定失敗時，其后果便是社會層面的。我們正步入一個充滿根深蒂固的不信任的時代。歡迎來到“真實性危機”的世界，在這個時代，你必須假定一切都是假的，直到被證明是真的。這迫使我們所有人背負沉重的“現(xiàn)實稅”，導致集體倦怠和憤世嫉俗，最終使數(shù)字信任徹底瓦解。

唯一出路：回歸更具人性的互聯(lián)網(wǎng)

我們已經(jīng)從最初在網(wǎng)絡上看到機器人時的那種怪異感覺，發(fā)展到理解它對我們未來的真正意義?！盎ヂ?lián)網(wǎng)已死”理論不再是陰謀論，而是對當下正在發(fā)生的事情的預測。這不是遙遠的反烏托邦，而是已經(jīng)到來的真實性危機。

那么，我們該怎么辦？出路必然是 “更具人性”。答案并非某種神奇的檢測工具，而是我們數(shù)字素養(yǎng)的全面提升。我們不能只問“這是真的嗎？”，而是“我為什么會看到這些？”健康的批判性思維才是我們最好的防御。

或許，真正互聯(lián)網(wǎng)的未來在于人們有意識地選擇花時間在規(guī)模較小、信任度高的“數(shù)字花園”，比如小眾論壇、私人群組，在這些地方，聲譽和真實互動至關重要。我們或許需要重新學習如何構建社群，確保我們確信屏幕另一端的人是真實的。

這就引出了最重要的問題：隨著我們的世界充斥著完美定制的合成內容，我們該如何在網(wǎng)上證明自己是“真人”？

常見問題解答

AI生成的內容如今在網(wǎng)絡上有多普及？它已經(jīng)存在，并且正在呈指數(shù)級增長。我們今天就能看到各種復雜的AI評論、文章和產(chǎn)品評價。雖然并非所有用戶都完全處于模擬環(huán)境中，但這些工具的部署速度已經(jīng)遠遠超出了我們的預期。趨勢顯而易見，而我們正處于增長曲線的陡峭階段。

AI回音室和信息繭房有什么區(qū)別？信息繭房是被動的：算法會向你推送你可能認同的真實用戶的內容。AI回音室則是主動的：它會從零開始為你生成全新的合成內容和虛假“人物”。這就好比“精選播放列表”和“為你量身創(chuàng)作的歌曲”之間的區(qū)別。

如何保護自己免受AI驅動的虛假信息侵害？答案在于轉變思維方式。成為一名有意識的信息消費者，并培養(yǎng)良好的數(shù)字素養(yǎng)。積極尋找規(guī)模較小但值得信賴的社群。直接支持人類創(chuàng)作者。最重要的是，保持健康的懷疑態(tài)度，對信息流中的所有內容都問問自己“我為什么會看到這些？”

監(jiān)管能解決AI合成內容的問題嗎？監(jiān)管可能會發(fā)揮作用（比如強制加水印），但這與言論自由之間存在微妙的平衡，而且技術發(fā)展總是遠超立法速度。法律雖然有所幫助，但并非萬能靈藥。核心防御始終在于擁有批判性思維和受過良好教育的用戶群體。

本文編譯自substack，原文作者ToxSec

https://substack.com/@toxsec/p-176417949