某一天，一個普通用戶打開ChatGPT，輸入了自己的癥狀：眼睛酸痛發(fā)癢，眼皮有點發(fā)紅。

AI很快給出了診斷建議，還提到了一個聽起來很專業(yè)的病名bixonimania，中文可以叫“藍光狂躁癥”。它解釋說，這是一種因長時間看屏幕、暴露在藍光下而導(dǎo)致的眼部疾病。

聽起來挺合理的，畢竟我們每天盯著屏幕的時間確實太長了。

但問題是，這個病根本不存在。

它是一個瑞典研究員的發(fā)明，準(zhǔn)確地說是一場精心設(shè)計的陷阱。而AI，連同它背后那些號稱“最先進”的算法，毫無防備地跳了進去。

一場精心設(shè)計的“釣魚”實驗

故事要從阿爾米拉·圖恩斯特倫（Almira Thunstr?m）說起。她是瑞典哥德堡大學(xué)的醫(yī)學(xué)研究員，平時的工作之一是教學(xué)生理解大語言模型（LLM）是如何工作的。

在課堂上，她會展示AI是如何從巨型數(shù)據(jù)庫中“學(xué)習(xí)”的，基本上就是把整個互聯(lián)網(wǎng)的內(nèi)容都抓取下來，然后喂給AI。她還會演示“提示注入”攻擊，也就是用特定的提示詞把AI引導(dǎo)到錯誤的方向。

有一天，她冒出了一個想法：如果我故意在互聯(lián)網(wǎng)上發(fā)布一些假的醫(yī)學(xué)信息，AI會不會照單全收，然后把它當(dāng)作真知識傳播出去？

于是，“藍光狂躁癥”誕生了。

她選擇這個名字是有原因的。Bixon-這個詞根是虛構(gòu)的，Bixonimania聽起來很像醫(yī)學(xué)術(shù)語，但任何受過訓(xùn)練的醫(yī)生都應(yīng)該能看出問題：眼科疾病怎么可能用“mania”（狂躁）這個精神病學(xué)術(shù)語來命名？這就像給感冒起名叫“鼻涕抑郁癥”一樣荒謬。

AI生成的藍光狂躁癥（一種虛構(gòu)的疾?。﹫D像丨Preprints.org https://doi.org/qzm4 (2024).

2024年3月15日，她在Medium上發(fā)布了兩篇關(guān)于這個“疾病”的博客。隨后的4月和5月，她又上傳了兩篇看起來很正式的“學(xué)術(shù)論文”到學(xué)術(shù)社交網(wǎng)絡(luò)SciProfiles。

論文的第一作者是拉茲利夫·伊茲古布列諾維奇（Lazljiv Izgubljenovic），一個用AI生成頭像的虛構(gòu)研究者。他的工作單位是加州新星城（Nova City）的阿斯特里亞地平線大學(xué)（Asteria Horizon University），這所大學(xué)和這座城市都是憑空捏造的。

兩篇虛構(gòu)的論文，以及一個用AI生成頭像的虛構(gòu)研究者丨sciprofiles.com

但圖恩斯特倫并不想真的騙人，她在論文里埋了無數(shù)彩蛋，提醒讀者這是假的。

致謝部分感謝了“星際艦隊學(xué)院的瑪麗亞·博姆（Maria Bohm）教授，感謝她在USS企業(yè)號上的實驗室”。資助方包括“小丑鮑勃教授基金會（Professor Sideshow Bob Foundation）”、“指環(huán)王大學(xué)（University of Fellowship of the Ring）”和“銀河三合會（Galactic Triad）”。

論文里更是直接寫著“本文全部內(nèi)容都是捏造的”和“招募了50名年齡在20至50歲之間的虛構(gòu)人物作為暴露組”。

這些線索已經(jīng)明顯到近乎荒誕。任何認(rèn)真讀過論文的人都不可能上當(dāng)。

但 AI 不讀論文。它只是掃描、匹配、拼接。

AI們集體淪陷

圖恩斯特倫發(fā)布假論文后不到一個月，奇跡般的事情發(fā)生了，或者說災(zāi)難般的事情發(fā)生了。

2024年4月13日，微軟Bing的Copilot開始向用戶介紹“藍光狂躁癥”，稱它是“一種有趣且相對罕見的疾病”。同一天，Google的Gemini也開始建議用戶，如果懷疑自己得了這個病，應(yīng)該去看眼科醫(yī)生。

4月27日，Perplexity AI甚至給出了具體的患病率：每 9 萬人中有 1 人受影響。

OpenAI的ChatGPT也加入了這場集體幻覺，開始根據(jù)用戶描述的癥狀判斷他們是否患有“藍光狂躁癥”。

這些AI不僅在用戶直接詢問“藍光狂躁癥”時給出答案，還會在用戶咨詢“眼瞼色素沉著”或“長時間看屏幕后眼睛不適”等癥狀時，主動推薦這個疾病。

AI們集體淪陷丨圖蟲創(chuàng)意

倫敦大學(xué)學(xué)院研究健康錯誤信息的博士生亞歷克斯·魯阿尼（Alex Ruani）看到這個實驗結(jié)果時震驚了?！叭绻茖W(xué)過程本身以及支持這一過程的系統(tǒng)都被騙過了，我們就完蛋了，”她說，“這是一堂關(guān)于錯誤信息和虛假信息如何運作的大師課。”

更令人不安的是，即便到了 2026 年，這些AI系統(tǒng)仍然沒有完全“清醒”。它們的態(tài)度反復(fù)無常，時而懷疑，時而又深信不疑。

2026年3月11日，ChatGPT還在說這個病“可能是編造的”。但幾天后，它就改口了，開始認(rèn)真地解釋“藍光狂躁癥是眶周黑色素沉著癥的一種新提出的亞型，被認(rèn)為與暴露于數(shù)字屏幕的藍光有關(guān)”。

同月，微軟Copilot說這“還不是一個廣泛認(rèn)可的醫(yī)學(xué)診斷”，但緊接著又說“幾篇新興論文和病例報告”都在討論它。

2026年1月，Perplexity將藍光狂躁癥描述為“一個新興術(shù)語”。

當(dāng)媒體向這些 AI 公司求證時，它們都強調(diào)了自己的改進。但改進的速度，顯然趕不上錯誤信息傳播的速度。

為什么AI會上當(dāng)？

要理解AI為什么會被騙，我們需要先理解它是怎么“學(xué)習(xí)”的。

想象一下，你要訓(xùn)練一個從未見過世界的人成為醫(yī)學(xué)專家。你的方法是把他關(guān)在一個圖書館里，讓他讀完所有的書，然后就讓他出來給人看病。

這個人可能會記住很多醫(yī)學(xué)術(shù)語，能流利地引用各種研究，但他并不真正“理解”疾病是什么。他只是在做模式匹配，看到某些癥狀描述，就聯(lián)想到書里相似的段落，然后復(fù)述出來。

大語言模型就是這樣工作的。它們從數(shù)據(jù)庫中“閱讀”了海量的互聯(lián)網(wǎng)內(nèi)容，然后學(xué)會了如何根據(jù)輸入的問題，生成看起來合理的回答。

大語言模型從數(shù)據(jù)庫中“閱讀”了海量的互聯(lián)網(wǎng)內(nèi)容，然后學(xué)會了如何根據(jù)輸入的問題，生成看起來合理的回答丨圖蟲創(chuàng)意

但它們不會判斷信息的真假。它們不一定知道“星際艦隊學(xué)院”是《星際迷航》里的虛構(gòu)機構(gòu)，也不知道“小丑鮑勃”是《辛普森一家》里的反派角色。它們只看到這是一篇格式規(guī)范的學(xué)術(shù)論文，有作者、有單位、有參考文獻，那就應(yīng)該是可信的。

哈佛醫(yī)學(xué)院的研究員馬哈茂德·奧馬爾（Mahmud Omar）專門研究過這個問題。他發(fā)現(xiàn)，當(dāng)錯誤信息被包裝成專業(yè)格式（比如醫(yī)院出院記錄或臨床論文）時，AI產(chǎn)生幻覺的概率會顯著增加。

“當(dāng)文本看起來專業(yè)，像醫(yī)生寫的那樣，幻覺率就會增加，”奧馬爾說。

這就像一個騙子，穿上白大褂、戴上聽診器，就更容易讓人相信他是醫(yī)生。AI也會被這種“專業(yè)外表”欺騙。

更可怕的事情：人類也上當(dāng)了

2024年，有印度研究人員在期刊Cureus上發(fā)表了一篇關(guān)于眼周色素沉著的論文。

在這篇經(jīng)過同行評審、正式發(fā)表的學(xué)術(shù)論文中，作者引用了圖恩斯特倫的假研究，并認(rèn)真地寫道：“藍光狂躁癥是一種與藍光暴露相關(guān)的新興眶周黑色素沉著癥形式；關(guān)于其機制的進一步研究正在進行中?！?/p>

這篇論文后來被撤回了。但撤稿聲明來得太晚，它已經(jīng)在學(xué)術(shù)數(shù)據(jù)庫中存在了一段時間，可能已經(jīng)被其他研究者看到、下載，甚至引用。

被撤回的研究。由于文中存在三篇無關(guān)參考文獻，其中一篇涉及虛構(gòu)疾病，該論文已被撤回丨cureus.com

更令人擔(dān)憂的是，這不是個別現(xiàn)象。圖恩斯特倫說，她發(fā)現(xiàn)有好幾篇發(fā)表的論文都引用了她的假研究。最可能的解釋是，這些研究者在寫論文時，讓 AI幫忙搜索相關(guān)文獻。AI給出了一堆參考文獻，包括圖恩斯特倫的假論文。研究者直接復(fù)制粘貼到自己的論文里，連標(biāo)題都沒仔細看一眼，更別說打開原文閱讀了。

當(dāng)假論文被真論文引用，真論文又被更多論文引用，假的就會逐漸“洗白”。它會出現(xiàn)在越來越多的文獻綜述里，出現(xiàn)在教科書的參考文獻里，最終可能被當(dāng)作“已有研究表明”的依據(jù)。

而這一切，就發(fā)生在我們眼前。

在AI時代，我們?nèi)绾螀^(qū)分真實和虛假？丨圖蟲創(chuàng)意

藍光狂躁癥的故事聽起來像個笑話，但它揭示的問題一點也不好笑。

如果一個精心設(shè)計的假疾病能在幾周內(nèi)被主流 AI 系統(tǒng)接受并推薦給用戶，那么有多少其他未被發(fā)現(xiàn)的錯誤信息正在流通？

實驗提出了一個尖銳的問題：在AI時代，我們?nèi)绾螀^(qū)分真實和虛假？答案可能很簡單，但也很難做到，那就是永遠不要完全信任AI的輸出。無論是醫(yī)療建議、學(xué)術(shù)引用，還是任何重要信息。

或許有一天，AI會變得足夠聰明，能夠識別出這些荒謬的線索。但在那一天到來之前，保持懷疑、保持警惕，可能是我們在這個AI 時代最需要的生存技能。

參考文獻

[1]Stokel-Walker, C. (2026). Scientists invented a fake disease. AI told people it was real. Nature. https://www.nature.com/articles/d41586-026-01100-y

[2]Osmanovic Thunstr?m, A. et al. (2024). What is Bixonimania? SciProfiles. https://doi.org/qzm5 （虛構(gòu)論文，已標(biāo)注）

[3] Omar, M. et al. (2026). Hallucination rates in large language models processing medical misinformation. Lancet Digital Health, 8, 100949. https://doi.org/10.1016/j.landig.2025.100949

作者：數(shù)芽

編輯：黎小球

封面圖來源：Nano Banana 2

點個“小愛心”吧