點(diǎn)擊下方“JavaEdge”，選擇“設(shè)為星標(biāo)”

第一時間關(guān)注技術(shù)干貨！

免責(zé)聲明~ 任何文章不要過度深思！ 萬事萬物都經(jīng)不起審視，因?yàn)槭郎蠜]有同樣的成長環(huán)境，也沒有同樣的認(rèn)知水平，更「沒有適用于所有人的解決方案」； 不要急著評判文章列出的觀點(diǎn)，只需代入其中，適度審視一番自己即可，能「跳脫出來從外人的角度看看現(xiàn)在的自己處在什么樣的階段」才不為俗人。 怎么想、怎么做，全在乎自己「不斷實(shí)踐中尋找適合自己的大道」

0 前言

LLM憑借其生成連貫文本、翻譯語言甚至進(jìn)行對話的能力，徹底改變?nèi)斯ぶ悄茴I(lǐng)域。然而，盡管這些模型表現(xiàn)出色，它們在推理和理解復(fù)雜上下文方面仍然面臨重大挑戰(zhàn)。

這些模型擅長識別并模仿訓(xùn)練數(shù)據(jù)中的模式，但當(dāng)任務(wù)需要真正的理解和邏輯推理時，它們往往遇困�？赡軐�(dǎo)致：

• 長對話中的不一致

• 難以關(guān)聯(lián)分散的信息

• 在長篇敘述中難以保持上下文一致性

深入理解這些推理問題對于改進(jìn)未來 LLM 的發(fā)展和應(yīng)用至關(guān)重要。

1 關(guān)鍵推理挑戰(zhàn) 1.1 缺乏真正的理解

語言模型的工作原理是根據(jù)訓(xùn)練過程中學(xué)到的模式預(yù)測下一個關(guān)鍵詞，而不像人類真正理解其所討論的內(nèi)容。因此，在需深層理解的復(fù)雜推理任務(wù)，LLM 表現(xiàn)不佳。

1.2 上下文限制

盡管現(xiàn)代 LLM 在短期上下文理解方面表現(xiàn)良好，但在長對話或大篇幅文本中保持一致性和上下文連貫性仍是挑戰(zhàn)。當(dāng)需要整合對話或文本的多個部分時，模型可能會出現(xiàn)推理錯誤。例如，在一場長時間的討論或復(fù)雜的故事敘述中，模型可能會忘記或誤解之前的信息，導(dǎo)致后續(xù)的矛盾或錯誤結(jié)論。

1.3 無法進(jìn)行規(guī)劃

許多推理任務(wù)涉及多步邏輯推導(dǎo)或需要跟蹤多個事實(shí)。當(dāng)前的 LLM 在需要長時間連貫性或多步邏輯推理的任務(wù)上表現(xiàn)較差，例如解答需要多個邏輯步驟的謎題。

1.4 回答無解問題

回答無解問題是 LLM 推理能力的一大挑戰(zhàn)。當(dāng)面對悖論、無明確答案的問題，或與已知事實(shí)相矛盾的問題時，LLM 可能難以提供有意義或連貫的回答。相較于直接承認(rèn)問題無解，模型可能會基于訓(xùn)練數(shù)據(jù)的模式硬給出一個答案，這可能導(dǎo)致誤導(dǎo)性或錯誤的結(jié)果。推理能力的局限性在這一點(diǎn)上尤為明顯。

1.5 狀態(tài)空間計(jì)算的復(fù)雜性

某些問題需要探索從初始狀態(tài)到目標(biāo)狀態(tài)的所有可能路徑。例如，在旅行規(guī)劃中，涉及大量可能的選項(xiàng)，并且隨著預(yù)算、交通方式等額外限制的增加，搜索狀態(tài)空間可能會呈指數(shù)級增長。對于 LLM 來說，計(jì)算所有這些可能性并給出最佳方案是不現(xiàn)實(shí)的，因此它通常會依賴所學(xué)的啟發(fā)式方法，給出一個可能并不正確的可行解。

2 現(xiàn)實(shí)案例：錯誤的推理

問題：

ounter(lineounter(lineounter(line
"一個水壺裝有 8 個單位的水，還有兩個容量為 5 和 5 的空水壺。"
"目標(biāo)是通過倒水，使前兩個水壺各包含 4 個單位的水，而第三個水壺保持為空。"
"每次倒水時，水只能從一個水壺倒入另一個，直到倒水的水壺空了，或者接收水的水壺裝滿為止。"

實(shí)際上，這問題無解，但目前 LLM 仍嘗試給出解答，仿佛它們找到正確答案。

然而，如果問題稍作修改，將兩個空水壺的容量改為 5 和 4（而非 5 和 5），所有 LLM 都能夠正確回答。這表明，它們可能只是記住了某些已知問題的解決方案，而不是進(jìn)行真正的推理。

3 研究人員如何改進(jìn) LLM 的推理能力？

目前，研究人員正在探索多種方法來提升 LLM 的推理能力，其中包括改進(jìn)數(shù)據(jù)集、引入鏈?zhǔn)剿季S、使用外部驗(yàn)證器和整合專門的求解器。

3.1 改進(jìn)數(shù)據(jù)集

一些研究人員認(rèn)為，提高 LLM 訓(xùn)練數(shù)據(jù)的質(zhì)量和多樣性是關(guān)鍵。通過更廣泛、更精細(xì)的數(shù)據(jù)集訓(xùn)練模型，可以增強(qiáng)其處理復(fù)雜推理場景的能力。

3.2 鏈?zhǔn)剿季S（Chain-of-Thought）

這一方法 旨在讓 LLM 按照人類的邏輯思維方式，逐步進(jìn)行推理。通過顯式生成中間推理步驟，模型能夠更準(zhǔn)確地完成復(fù)雜推理任務(wù)，并減少邏輯錯誤。

3.3 使用外部驗(yàn)證器

為了解決 LLM 生成錯誤或誤導(dǎo)性信息的問題，一些研究人員提出整合外部驗(yàn)證機(jī)制。通過與可信數(shù)據(jù)源比對或使用額外算法進(jìn)行驗(yàn)證，這些機(jī)制可以確保最終輸出的信息更加準(zhǔn)確、可靠。

3.4 使用專門的求解器

另一種方法是引入專門的求解器來處理特定類型的推理任務(wù)。例如，使用數(shù)學(xué)求解器進(jìn)行計(jì)算，或使用邏輯推理工具處理復(fù)雜推理問題。這些工具可以補(bǔ)充 LLM 的能力，提高系統(tǒng)整體的準(zhǔn)確性和可靠性。

4 結(jié)論

盡管 LLM 在文本生成和理解方面取得了令人矚目的進(jìn)展，但由于缺乏真正的理解能力、難以保持上下文一致性，以及僅依賴從海量但可能存在缺陷的數(shù)據(jù)中提取的模式，它們?nèi)匀辉趶?fù)雜的多層推理任務(wù)上存在明顯不足。未來的 LLM 需要更先進(jìn)的架構(gòu)，并結(jié)合常識推理等方面的持續(xù)研究，以提升其推理能力。

參考：

1. 水壺倒水問題

2. 用 LLM 學(xué)習(xí)推理

3. GSM-Symbolic：LLM 在數(shù)學(xué)推理方面的局限性

4. PlanBench：評估 LLM 規(guī)劃和推理能力的基準(zhǔn)

5. LLM 仍然無法規(guī)劃，但 LRM 可以嗎？

6. LLM 無法規(guī)劃，但可以在 LLM-模塊化框架中輔助規(guī)劃

本文已收錄在Github Java-Interview-Tutorial，關(guān)注我，緊跟本系列專欄文章，咱們下篇再續(xù)！

• 魔都架構(gòu)師 | 全網(wǎng)30W+技術(shù)追隨者

• 大廠分布式系統(tǒng)/數(shù)據(jù)中臺實(shí)戰(zhàn)專家

• 主導(dǎo)交易系統(tǒng)億級流量調(diào)優(yōu) & 車聯(lián)網(wǎng)平臺架構(gòu)

• AIGC應(yīng)用開發(fā)先行者 | 區(qū)塊鏈落地實(shí)踐者

• 以技術(shù)驅(qū)動創(chuàng)新，我們的征途是改變世界！

• 實(shí)戰(zhàn)干貨：編程嚴(yán)選網(wǎng)

關(guān)注我，緊跟本系列專欄文章，咱們下篇再續(xù)！

加我好友，一起AI探索交流：