當一篇論文的參考文獻有一半查無出處，它憑什么能通過兩輪評審？ICLR 2026的丑聞給出了一個令人不安的答案。

從法庭到頂會：同一種幻覺，同一種漏洞

法律界早就踩過這個坑。2023年的Mata v. Avianca案里，律師用ChatGPT寫訴狀，結(jié)果引用了六個根本不存在的判例。法官沒接受"我不懂AI"的借口，直接開出了制裁罰單。

這不是個案。研究顯示，即便是加了檢索增強（檢索增強生成，即讓模型先查資料再回答）的法律寫作工具，面對復雜查詢時也會捏造近三分之一的引用。而且這些不是實驗室原型，是正經(jīng)在售的商業(yè)產(chǎn)品。

學者James把這類錯誤分成兩檔：

「誤植型」——曲解或錯引真實來源；「憑空捏造型」——直接發(fā)明案例、法條、引文。ICLR 2026的論文們兩樣都占了：有的把前人工作的基線性能寫錯，有的干脆引用不存在的數(shù)據(jù)集和"前人研究"，搜索引擎根本抓不到。

核心問題被一句點破：大語言模型的優(yōu)化目標是"下一個詞最像人話"，不是"這句話為真"。指望下一代模型自動解決這個問題，屬于一廂情愿。

評審機制是怎么被攻破的

一個小型機器學習會議的程序主席講過一件事：一篇"明顯是AI寫的、打磨得很漂亮"的論文，差點騙過兩個超負荷工作的審稿人。最后是個志愿者發(fā)現(xiàn)，一半?yún)⒖嘉墨I根本解析不出來。ICLR 2026只是把這套劇本放大了。

技術(shù)層面，幻覺有幾條滲透路徑：

第一，"請總結(jié)X方向的相關(guān)工作"——這種提示詞會讓模型在不確定時依然輸出看似合理的綜述，夾帶私貨。

第二，虛構(gòu)的會議名、數(shù)據(jù)集名、基準測試名，聽起來像真的。

第三，根本沒跑過的消融實驗，被寫成"我們嘗試了A/B/C三種設(shè)置"。

審稿人面對 polished 的文本，加上自身時間壓力，驗證動力天然不足。而生成式工具的輸出又恰好擅長"看起來對"。

責任該由誰扛？

法律學者Shamov的觀點值得注意：個人追責不夠，因為"經(jīng)過認證"的工具本身就被證明不可靠。他主張責任分散到三層——工具開發(fā)商、機構(gòu)/平臺、實際使用者。

學術(shù)出版完全對得上這個框架：

? 廠商做寫作和文獻工具

? 會議方定政策和評審流程

? 作者和審稿人選擇并驗證輸出

目前三層都在失靈。工具沒內(nèi)置事實核查，會議沒針對AI寫作調(diào)整審稿標準，作者和審稿人則普遍缺乏驗證紀律。

清單：AI輔助研究的五條底線

既然幻覺是模型結(jié)構(gòu)的內(nèi)稟特性， workaround 必須從流程入手。參考法律和安全關(guān)鍵領(lǐng)域的做法，可以列出這幾條：

1. 參考文獻必須逐條核驗

不是抽查，是全部。用學術(shù)搜索引擎、期刊官網(wǎng)、作者個人頁交叉確認。ICLR 2026的造假論文里，"查無此文"的引用占了相當比例——這本是審稿環(huán)節(jié)就能攔截的。

2. 數(shù)據(jù)集和基準測試要驗證可獲取性

論文聲稱用了某個數(shù)據(jù)集？去官方倉庫下載試試。聲稱在某個基準上跑了分數(shù)？找 leaderboard 核對。很多幻覺數(shù)據(jù)集的名字起得很像真的，但域名、機構(gòu)、年份對不上。

3. 消融實驗保留執(zhí)行痕跡

代碼版本、隨機種子、運行日志。不是說作者都會造假，而是這些痕跡讓"聲稱跑過"變成"可以復現(xiàn)"。

4. 工具輸出標記與隔離

哪些段落是AI生成的初稿，哪些是經(jīng)人工改寫的事實陳述，應(yīng)當有明確區(qū)分。這不是為了懲罰使用AI，而是為了在出問題時快速定位。

5. 審稿流程增加對抗性檢查

現(xiàn)在的審稿是"找亮點"，需要補一道"找硬傷"的工序?？梢噪S機抽取引用、數(shù)據(jù)集、實驗配置進行強制核驗，也可以引入專門的"紅隊"審稿人。

一個行業(yè)級的問題

ICLR 2026不是孤立事件。法律、安全、軟件工程都出現(xiàn)了同樣的模式：流暢的AI輸出被當作事實，治理規(guī)則跟不上技術(shù)擴散速度。

區(qū)別在于，法律界已經(jīng)用判例和制裁建立了底線。學術(shù)界的反應(yīng)還在"建議"和"倡導"層面。當一篇頂會論文的引用有50%是假的，它損害的不只是那屆會議的聲譽——而是整個同行評審制度的可信度。

如果明年的投稿系統(tǒng)不強制要求參考文獻哈希校驗，不接入數(shù)據(jù)集注冊表，我們是在等下一個ICLR 2027嗎？