這可是大模型應用的核心本事。

先說第一個坎，“虛假繁榮”。

現在測模型找信息，搞個“大海撈針”測試，成績都挺亮眼。

復雜的“論述題”訓練太少，模型自然就不會深度思考。

光定位準還不夠，訓練過程更是個老大難。

傳統(tǒng)RL算法更絕，只要答案錯了就狠狠懲罰，模型嚇得不敢探索新方法，搞不好訓練著就“躺平”了，早早停在半道上。

還有個繞不開的“窗口天花板”。

就算把模型的“閱讀窗口”撐到256K、1M個詞，碰上一整部代碼倉庫或者年度財報，照樣不夠用。

就像看小說只看了幾個章節(jié)，怎么可能理解整個故事的脈絡？

要解決這些問題，QwenLong-L1.5先從“吃”上下功夫。

模型學得好不好，“營養(yǎng)餐”很重要。

他們搞了套多跳推理數據合成流水線，思路挺有意思先把知識點拆成小模塊，再像拼樂高似的，按知識圖譜或者表格把這些模塊重組，生成復雜問題。

就像老師出論述題，先拆解教材里的原子知識點，再設計需要串聯(lián)多章節(jié)內容的題目。

這套“出題引擎”專門生成多跳溯源、全局推理類難題，逼著模型練深度思考。

光有好材料還得會“教”。

QwenLong-L1.5的RL優(yōu)化策略算是下了功夫。

訓練時不再瞎喂數據，而是從多任務類型里均勻抽樣本，保證模型每種題型都練到。

獎勵信號也分開算，問答任務的獎勵不影響計算任務，避免“一榮俱榮，一損俱損”。

最關鍵的是那個自適應熵控制，模型敢嘗試新方法時，就少點懲罰，要是老犯同樣的錯，再加重懲罰。

這就像教練教運動員，新手多鼓勵，老手嚴要求，訓練效果自然穩(wěn)。

最后是給模型配個“外置大腦”。

他們搞了個記憶管理框架，相當于給模型配了本智能筆記本。

本來想靠擴大窗口硬撐，后來發(fā)現搞個“筆記本”才是聰明辦法，既省內存又能記住全局信息。

這套組合拳打出來，效果確實挺明顯。

我覺得這就像人學會了深度閱讀，整體理解能力自然上去了。

這對處理完整代碼庫、年度財報來說，簡直是剛需。

現在團隊已經把技術細節(jié)和代碼開源了，就在GitHub那個倉庫里，感興趣的可以去瞅瞅。