文/陳根

最近張文宏拒絕AI進(jìn)入醫(yī)療，引發(fā)了很大的關(guān)注，也引發(fā)了一些爭(zhēng)論。我想從專業(yè)的角度來跟大家探討關(guān)于AI到底能不能值得完全信任，這背后就涉及到一個(gè)非常核心的問題，也就是大模型當(dāng)前一種被困擾的關(guān)鍵問題，不是算力，也不是算法，也不是數(shù)據(jù)，而是AI幻覺的問題，這是可以說是AI一個(gè)無法真正解決的問題。

AI幻覺的頑疾與本質(zhì)

在人工智能（AI）迅猛發(fā)展的時(shí)代，幻覺（Hallucination）已成為大型語(yǔ)言模型（LLM）如ChatGPT、Claude和Gemini的普遍問題。當(dāng)然，中文大模型我們就不談了，基本上只能由于娛樂，還談不上可靠度的層面。

AI幻覺是指AI生成看似合理卻實(shí)際錯(cuò)誤、虛構(gòu)或誤導(dǎo)的內(nèi)容。這種現(xiàn)象并非技術(shù)故障，而是AI體系的結(jié)構(gòu)性缺陷。或者說是AI的“原罪”導(dǎo)致的，因?yàn)閺囊婚_始AI的數(shù)據(jù)就來源于人類的知識(shí)庫(kù)，而人類的知識(shí)庫(kù)就充滿著大量的謊言與胡說八道。

盡管研究人員一直在嘗試通過檢索增強(qiáng)生成（RAG）、微調(diào)和事實(shí)檢查等方法緩解，但幻覺始終揮之不去。2025年的一項(xiàng)OpenAI研究指出，幻覺源于訓(xùn)練和評(píng)估過程對(duì)猜測(cè)的獎(jiǎng)勵(lì)，而非不確定性的承認(rèn)。其實(shí)核心并不是這些問題，而是在于AI的最底層邏輯，也就是兩個(gè)核心問題所導(dǎo)致，這也是我重點(diǎn)跟大家探討的問題。以及為什么我一直說，AI幻覺問題是無法真正解決的原因。

首先，人類知識(shí)數(shù)據(jù)本身充斥幻覺，導(dǎo)致AI繼承并放大這些缺陷；其次，AI的自我生成內(nèi)容機(jī)制形成惡性循環(huán)，進(jìn)一步污染訓(xùn)練數(shù)據(jù)。這些因素就導(dǎo)致，AI幻覺不是可完全根除的“bug”，而是AI認(rèn)知范式的內(nèi)在局限，類似于人類認(rèn)知的“不可知論”困境。

人類知識(shí)數(shù)據(jù)的固有幻覺——AI的“原罪”繼承

AI幻覺的根源在于其訓(xùn)練數(shù)據(jù)：這些數(shù)據(jù)本質(zhì)上是人類知識(shí)的鏡像，而人類知識(shí)遠(yuǎn)非完美，也并非準(zhǔn)確無誤，除了已經(jīng)被驗(yàn)證的一些數(shù)學(xué)與物理的公式，定律之外，大部分的知識(shí)都不是真理，也不是無誤的。

LLM通過海量文本學(xué)習(xí)模式，但這些文本充斥錯(cuò)誤、偏見和不確定性，導(dǎo)致AI無法區(qū)分“真實(shí)”與“似真”。正如MIT Sloan的一項(xiàng)分析所描述的，生成AI的幻覺源于訓(xùn)練數(shù)據(jù)的固有缺陷，包括虛假信息和偏見。而我們?nèi)祟愔R(shí)的“幻覺”體現(xiàn)在幾個(gè)層面：

首先，數(shù)據(jù)的不完整性和低頻事實(shí)問題。OpenAI的研究強(qiáng)調(diào)，LLM在預(yù)訓(xùn)練中預(yù)測(cè)下一個(gè)詞，但低頻或任意事實(shí)（如寵物生日）無法從模式中可靠推斷，只能通過猜測(cè)填充。 這類似于人類記憶的“填補(bǔ)空白”機(jī)制：大腦基于模式回憶，但容易出錯(cuò)，甚至很多回憶是伴隨著幻覺的。

IBM的分析進(jìn)一步指出，如果訓(xùn)練數(shù)據(jù)集偏倚或不是絕對(duì)正確的代表性，AI會(huì)“幻覺”出反映這些偏見的模式。最典型的就是，歷史文本中性別或種族偏見，以及歷史的虛假敘事會(huì)被AI繼承，導(dǎo)致輸出中出現(xiàn)虛構(gòu)的“事實(shí)”。

其次，人類知識(shí)的固有不確定性。聯(lián)合國(guó)大學(xué)的一項(xiàng)評(píng)論指出，AI幻覺不是“精神錯(cuò)亂”，而是預(yù)測(cè)錯(cuò)誤，源于訓(xùn)練數(shù)據(jù)的局限和缺乏真實(shí)理解。這是因?yàn)槲覀內(nèi)祟愔R(shí)本身就是構(gòu)建的，比如科學(xué)理論更迭（如從地心說到日心說），歷史敘事主觀（如不同文化對(duì)事件的解讀）。

而對(duì)于AI而言，其擁有的能力就是類似于人類的表達(dá)方式，具備的是優(yōu)先流暢性而非真相，當(dāng)數(shù)據(jù)有矛盾時(shí)，它會(huì)生成“統(tǒng)計(jì)上合理”的虛構(gòu)。即使訓(xùn)練于“準(zhǔn)確”數(shù)據(jù)，AI的生成本質(zhì)仍可能組合出新錯(cuò)誤，因?yàn)樗狈Α笆澜缒Ｐ汀薄祟惏愕恼Z(yǔ)境理解。

第三，數(shù)據(jù)質(zhì)量的系統(tǒng)性問題。AI訓(xùn)練，或者獲取的文本數(shù)據(jù)，本身就容易受人類錯(cuò)誤影響，尤其是一些用于分析的結(jié)構(gòu)化數(shù)據(jù)更容易出錯(cuò)。Berkeley的一項(xiàng)研究指出，訓(xùn)練數(shù)據(jù)的偏見、過度擬合和合成數(shù)據(jù)污染進(jìn)一步放大幻覺。這些問題就構(gòu)成了我前面所提到的，AI的“原罪”。即，AI從人類“幻覺”中誕生，無法超越其源頭。即使清理數(shù)據(jù)，人類知識(shí)的動(dòng)態(tài)性和主觀性（如文化神話、政治宣傳）使“純凈”數(shù)據(jù)集成為烏托邦。

OpenAI也承認(rèn)，幻覺在基礎(chǔ)模型中，在數(shù)學(xué)上不可避免，除非徹底重構(gòu)訓(xùn)練范式。其實(shí)重構(gòu)訓(xùn)練范式也不能徹底解決AI幻覺的問題，因?yàn)槲覀円廊粺o法回避一個(gè)最底層的問題，就是人類的知識(shí)庫(kù)本身的非真理性問題。因此，這一方面揭示AI幻覺的哲學(xué)根基：它鏡像人類認(rèn)知的有限性，無法實(shí)現(xiàn)柏拉圖式“理想形式”的絕對(duì)真理。

AI自我生成數(shù)據(jù)循環(huán)——惡性反饋的放大器

AI幻覺的第二個(gè)頑固原因在于其自我生成機(jī)制：模型輸出內(nèi)容被用于后續(xù)訓(xùn)練，形成“AI-on-AI”反饋循環(huán)，進(jìn)一步注入幻覺。

Harvard的一項(xiàng)框架分析指出，這種循環(huán)導(dǎo)致生成的不準(zhǔn)確污染未來數(shù)據(jù)，引發(fā)“模型崩潰”。這類似于生態(tài)系統(tǒng)的退化，即污染源自內(nèi)部，難以逆轉(zhuǎn)。如果用人類來形容的話，就是精神病患者訓(xùn)練精神病患者，最終可能會(huì)導(dǎo)致最初的精神病患者崩潰。

首先，生成內(nèi)容的固有不確定性。由于LLM基于統(tǒng)計(jì)模式生成，而非事實(shí)檢索，導(dǎo)致輸出雖連貫卻易虛構(gòu)。當(dāng)這些輸出回流訓(xùn)練（如通過網(wǎng)絡(luò)爬取），幻覺就會(huì)被強(qiáng)化?！都~約時(shí)報(bào)》的一篇互動(dòng)報(bào)道顯示，AI生成數(shù)據(jù)越來越難檢測(cè)，導(dǎo)致未來模型攝入自身輸出，輸出范圍縮小，遠(yuǎn)離現(xiàn)實(shí)。這種現(xiàn)象，如果用一個(gè)比喻來說，就是“自食循環(huán)”。尤其是，如今60%網(wǎng)絡(luò)內(nèi)容由AI生成，訓(xùn)練數(shù)據(jù)已經(jīng)變得非常不可靠。

其次，暴露偏見和漂移效應(yīng)。如果我們?cè)谟?xùn)練時(shí)使用“ground truth”數(shù)據(jù)，但推理時(shí)依賴自身生成，這就會(huì)導(dǎo)致早期的錯(cuò)誤在循環(huán)中不斷被放大。Nature的一項(xiàng)2024年研究證實(shí)，遞歸生成數(shù)據(jù)訓(xùn)練會(huì)導(dǎo)致模型崩潰。

并且會(huì)很快出現(xiàn)多樣性喪失，輸出趨于單一。這形成惡性循環(huán)，帶來的后果就是幻覺生成更多幻覺數(shù)據(jù)，用于下一代模型。然后在循環(huán)中，數(shù)據(jù)模糊和隨機(jī)解碼又會(huì)加劇這一問題。

第三，循環(huán)的系統(tǒng)性風(fēng)險(xiǎn)。即使使用RAG或知識(shí)圖譜，數(shù)據(jù)污染仍不可避免，因?yàn)榫W(wǎng)絡(luò)已經(jīng)充斥AI內(nèi)容。這從哲學(xué)上類似于尼采的“永恒輪回”：AI陷入自我復(fù)制的循環(huán)，無法逃脫內(nèi)在缺陷。人類干預(yù)（如人工標(biāo)注）雖然可以起到緩解，但規(guī)?；?xùn)練依賴海量數(shù)據(jù)，難以徹底凈化。

因此，我可以非常明確的說，AI幻覺無法真正解決，因?yàn)樗灿谌祟愔R(shí)的固有局限和AI生成-訓(xùn)練的閉環(huán)邏輯。前者是“輸入垃圾，輸出垃圾”的放大；后者是自我污染的反饋陷阱。

即使技術(shù)進(jìn)步，如自信度間隔或非幻覺模型，幻覺仍如人類認(rèn)知的“海森堡不確定性”——本質(zhì)上不可消除。從這個(gè)層面來看，我們就能回答張文宏所提到的這個(gè)觀點(diǎn)，或許一些人認(rèn)為AI已經(jīng)很強(qiáng)大了，張文宏不引入AI是不是落伍了？其實(shí)并不是，而是他對(duì)AI有比較深刻的了解，至少說明他認(rèn)知到了AI強(qiáng)大背后的本質(zhì)問題，也就是AI幻覺不可能被徹底解決。

所以，對(duì)于臨床的醫(yī)生而言，尤其是醫(yī)學(xué)院的學(xué)生，如果不能對(duì)病理機(jī)制有非常深刻的理解，而是過早的依賴于AI來輔助診斷的話，最終可能會(huì)陷入一種被AI誤導(dǎo)的循環(huán)中。