新智元報(bào)道

編輯：LRST

【新智元導(dǎo)讀】多模態(tài)大推理模型的幻覺，很多時(shí)候并非「沒看見」，而是在最不確定的推理階段想偏了。最新研究發(fā)現(xiàn)，模型在生成because、however、wait等transition words時(shí)，往往處于高熵關(guān)鍵節(jié)點(diǎn)，更容易脫離圖像證據(jù)、轉(zhuǎn)向語言腦補(bǔ)。LEAD在高熵階段不急于輸出單一離散token，而是先在潛在語義空間保留多種候選推理方向，并通過視覺錨點(diǎn)持續(xù)拉回圖像證據(jù)，顯著緩解幻覺。

在多模態(tài)大模型的浪潮中，具備顯式長鏈思考能力的MLRMs正在快速成為焦點(diǎn)。它們看起來更會(huì)「想」，也更善于在復(fù)雜任務(wù)中展開多步推理。

可問題是，想得更長，真的就更可靠嗎？

來自Monash University、Georgia Tech、Cornell University等機(jī)構(gòu)的研究者給出了一個(gè)很有意思的答案：未必。

模型的問題并不總是出在「看錯(cuò)圖」，而常常出在推理鏈進(jìn)入不確定轉(zhuǎn)折點(diǎn)之后，開始順著語言慣性一路想偏。

論文鏈接：https://arxiv.org/pdf/2603.13366

研究者進(jìn)一步指出，這種偏航并不是隨機(jī)噪聲，而是和token級(jí)別的不確定性緊密相關(guān)。尤其當(dāng)模型生成because、however、wait這類帶有轉(zhuǎn)折、反思和因果意味的過渡詞時(shí)，往往對(duì)應(yīng)著更高的token entropy，也意味著模型正在多個(gè)潛在推理路徑之間搖擺。一旦此時(shí)被迫過早選定一個(gè)離散token，后續(xù)整條reasoning trajectory都可能被帶歪。

幻覺不只是「看錯(cuò)」，而且是在轉(zhuǎn)折詞之后「想偏」

這篇論文首先抓住了一個(gè)非常有傳播力、也很有解釋力的現(xiàn)象：多模態(tài)幻覺經(jīng)常出現(xiàn)在transition words之后。 論文統(tǒng)計(jì)發(fā)現(xiàn)，在MLRMs中，hallucination更容易在transition words后出現(xiàn)，而且這類case在全部幻覺中占了相當(dāng)大比例。

換句話說，模型不是無緣無故地亂說，而是常常在「因此」「但是」「等等」這些看似高階推理信號(hào)出現(xiàn)之后，開始脫離圖像，進(jìn)入語言主導(dǎo)的腦補(bǔ)狀態(tài)。

更關(guān)鍵的是，論文沒有停留在現(xiàn)象層面，而是把這個(gè)問題和token entropy 聯(lián)系起來。

作者發(fā)現(xiàn)，這些 transition words 往往對(duì)應(yīng)更高的熵值，也就是模型最不確定、最容易在多個(gè)語義分支之間搖擺的時(shí)刻。

于是，問題就不再只是「模型會(huì)不會(huì)幻覺」，而變成了：模型在最不確定的時(shí)候，為什么還要被迫立刻做出一個(gè)離散決策？

為什么高熵token 最危險(xiǎn)？

為了驗(yàn)證高熵節(jié)點(diǎn)到底有多關(guān)鍵，作者做了進(jìn)一步的token masking分析。結(jié)果很直接：mask掉高熵token，比mask掉其他token對(duì)最終性能的傷害更大。 這說明高熵token雖然「不確定」，卻恰恰是推理過程里的關(guān)鍵決策點(diǎn)。更有意思的是，這種影響在推理鏈前段尤其明顯——越早出現(xiàn)的高熵智元（token），越可能決定后續(xù)整條reasoningpath 的走向。

論文還發(fā)現(xiàn)，和hallucination相關(guān)的高熵token，通常擁有更低的視覺注意力比例。這意味著一旦模型進(jìn)入高不確定狀態(tài)，它對(duì)視覺證據(jù)的依賴反而可能下降，開始更多依賴語言上下文繼續(xù)往下編。也就是說，多模態(tài)幻覺的關(guān)鍵，不只是模型沒看圖，而是它在不確定時(shí)逐漸不再看圖。

LEAD怎么做

基于這一觀察，作者提出了 LEAD（Latent Entropy-Aware Decoding）。

它的核心思想很直觀：當(dāng)模型處于高熵狀態(tài)時(shí)，不再強(qiáng)迫它立刻從概率分布里采樣出一個(gè)單獨(dú)token，而是使用概率加權(quán)的連續(xù) embedding，在潛在語義空間中同時(shí)保留多個(gè)候選推理方向；而當(dāng)熵值下降后，再自然切回常規(guī)的離散token解碼，實(shí)現(xiàn)從「探索」到「收斂」的自適應(yīng)過渡。

這篇工作的另一個(gè)亮點(diǎn)，是它沒有只做「latent decoding」，還進(jìn)一步加入了 visual anchor injection。

作者觀察到，高熵階段往往也是視覺信息最容易被弱化的階段，因此LEAD在這一階段注入來自預(yù)訓(xùn)練視覺表示的 guidance vector，把模型持續(xù)往圖像證據(jù)上拉，避免它在「想」的過程中越走越偏。

這個(gè)設(shè)計(jì)讓 LEAD 和一般的 decoding trick 不太一樣：它不只是重排token分?jǐn)?shù)，而是在關(guān)鍵推理節(jié)點(diǎn)直接改變模型的表征與決策方式。

不只減少幻覺

實(shí)驗(yàn)部分是這篇論文很扎實(shí)的一點(diǎn)。

作者在多組通用理解與hallucination benchmark上測試了LEAD，結(jié)果顯示它在不同backbone上都能帶來穩(wěn)定增益。

以R1-Onevision-7B 為例，加入LEAD后，VStar從66.5提升到71.2，RealWorldQA從62.5提升到66.4，MMEval-Pro從69.4提升到73.9，MMHalu和Bingo也分別提升到3.80和3.84。

類似增益也出現(xiàn)在Vision-R1、VL-Rethinker、VL-Cogito和OpenVLThinker等模型上。

在數(shù)學(xué)與科學(xué)視覺推理任務(wù)上，LEAD同樣有效。比如在R1-Onevision-7B上，MathVision 從 29.9 提升到 32.4，Geometry3K 從 57.9 提升到 61.2，MMK12-Bio從40.8提升到44.8；在Vision-R1-7B上，MathVision 從 27.2 提升到 29.7，MathVerse 從 52.4 提升到54.5。也就是說，LEAD 帶來的不是某個(gè)單點(diǎn) benchmark 的偶然提升，而是跨通用理解、數(shù)學(xué)和科學(xué)推理的整體增益。

消融實(shí)驗(yàn)

這套方法不是「玄學(xué)調(diào)參」。論文顯示，動(dòng)態(tài) entropy threshold 策略優(yōu)于始終離散或始終潛在的極端設(shè)置；而 persistence window 也存在一個(gè)合適區(qū)間，太短會(huì)導(dǎo)致頻繁切換，太長又會(huì)退回傳統(tǒng) CoT 的行為模式。視覺錨點(diǎn)強(qiáng)度也不是越大越好，適中的視覺注入最能兼顧圖像grounding和語言上下文。

定性結(jié)果

論文展示了LEAD在具體樣例中的視覺注意力分配與token-level概率分布：相比baseline和MemVR，LEAD 會(huì)把更多注意力放在與問題真正相關(guān)的圖像區(qū)域上；同時(shí)，在 latent reasoning 階段，token分布更分散、熵更高，而進(jìn)入 discrete reasoning 階段后，分布會(huì)逐步收斂到更確定的輸出。這種「先保留多種可能，再在證據(jù)約束下收斂」的過程，正是它緩解幻覺的關(guān)鍵。

更有意思的是，LEAD不只是更準(zhǔn)，還更「省」。論文在MathVision上發(fā)現(xiàn)，LEAD在保持最高準(zhǔn)確率的同時(shí)，平reasoning length反而更短；在Pass@k實(shí)驗(yàn)中，它也能在更小的k上更快達(dá)到峰值，說明它擁有更好的 sample efficiency。換句話說，LEAD并不是靠「想得更長」取勝，而是靠在關(guān)鍵的不確定節(jié)點(diǎn)少走彎路。

最后，作者還用PPL以及GPT-5評(píng)估了輸出文本的 grammar、fluency 和 naturalness。

結(jié)果顯示，LEAD 在緩解幻覺的同時(shí)，并沒有犧牲文本質(zhì)量，反而在多個(gè)維度上保持了更優(yōu)或更穩(wěn)的表現(xiàn)。也就是說，這種方法不是靠「保守回答」換來的提升，而是在 reasoning reliability 和生成質(zhì)量之間取得了更好的平衡。

總的來看，這篇工作的啟發(fā)很明確：多模態(tài)模型的問題，未必是不會(huì)推理，而是在最不確定的時(shí)候，過早把自己鎖死在了一個(gè)可能錯(cuò)誤的token 上。

LEAD的價(jià)值，就在于把「高熵階段」識(shí)別成真正的危險(xiǎn)區(qū)，并讓模型在這里先保留語義多樣性、再回到確定輸出，同時(shí)用視覺錨點(diǎn)把推理重新拽回圖像證據(jù)。對(duì)多模態(tài)大推理模型來說，這可能比單純「多想一點(diǎn)」更重要。

參考資料：

https://arxiv.org/pdf/2603.13366