2026年春季，大模型行業(yè)的高燒似乎正在退去，取而代之的是一種近乎冷酷的理性。近日，《財經(jīng)》報道指出，全球企業(yè)級 AI 應(yīng)用中，約50%的Token正在被浪費。

浪費的原因很具體，AI應(yīng)用從“對話”轉(zhuǎn)向“執(zhí)行”，這些計算資源流向了較貴的大型旗艦?zāi)Ｐ?，Agent在復(fù)雜多輪任務(wù)中，歷史文件、對話會不斷累積，大量無用、冗余、過期的信息會不斷產(chǎn)生并且重復(fù)計算，Token消耗因此指數(shù)級增長。也就是說，企業(yè)和開發(fā)者在用最貴的車跑最短的路。

OpenRouter的流量數(shù)據(jù)反映了這個轉(zhuǎn)變：過去一個季度，旗艦級模型的調(diào)用占比在下降，100B–300B區(qū)間的模型調(diào)用量則明顯上升。以近日上線的100B 模型Elephant為例，單日流量暴漲500%，沖上熱榜榜首，成為OpenClaw等 Agent 最受歡迎的選型。開發(fā)者開始按任務(wù)類型分配模型，而不是一律用最頂配。這是工程理性回歸的信號，不是對旗艦?zāi)Ｐ偷姆穸ā?/p>

為什么現(xiàn)在才開始算這筆賬

幾年前，"選最強的模型"是最省心的工程決策。旗艦?zāi)Ｐ蛶缀踉谒腥蝿?wù)上都更好，成本問題還沒到逼人重新設(shè)計架構(gòu)的程度。

現(xiàn)在情況變了，Agent需要“執(zhí)行”大量工作。一個客服Agent處理一張工單，可能需要調(diào)用模型十幾次：理解意圖、查詢知識庫、判斷優(yōu)先級、生成回復(fù)、核查格式。如果同時有幾千張工單在處理，每天的調(diào)用量輕松進入百萬級別。在這種頻率下，每次調(diào)用多付的溢價開始在賬單上顯現(xiàn)。

今年3月，一位名為shelvenzhou的開發(fā)者在Github進行了一項基準測試，引發(fā)了廣泛討論。他記錄自己的OpenClaw日常工作（包括代碼、郵件、PDF、圖片、搜索等）Token消耗情況——第一輪對話Token成本0.0050美元；第五輪對話Token成本0.0665美元，是第一輪的13.3倍；第10輪的Token成本達到了0.13美元，是第一輪的26倍。

根據(jù)報道，《財經(jīng)》統(tǒng)計了GitHub上有關(guān)“Token Waste”相關(guān)Issues的數(shù)量。這一討論至少有5200個，僅2026年一季度就誕生了4150個。越來越多的開發(fā)者在實際業(yè)務(wù)中正面臨控制Token浪費的問題。

目前大多數(shù)Agent的工程實現(xiàn)還相當(dāng)粗糙。面對Agent的多步任務(wù)，Token消耗以接近線性的速度增長，而其中大量內(nèi)容對當(dāng)前步驟毫無意義。這類問題催生了一個新的工程概念——Agent Harness，它不是模型本身，而是包裹在模型外部、負責(zé)管理上下文、編排工具調(diào)用、控制執(zhí)行生命周期的“韁繩”和“馬具”。

Token 效率因此形成了兩條并行的壓力線，一條來自 Agent 框架側(cè)，Harness 的出現(xiàn)就是典型代表；另一條來自模型側(cè)，推動廠商用更精簡的參數(shù)完成同等質(zhì)量的推理。

模型，向?qū)嵱弥髁x靠攏

在這場范式轉(zhuǎn)移中，一批深耕“token效率”的模型成為了舞臺中央的主角。它們不比拼參數(shù)規(guī)模，而是在單位Token成本下，比拼推理速度、指令遵循度以及長上下文的穩(wěn)定性。

根據(jù)OpenRouter 的 LLM Leaderboard在4月16日的數(shù)據(jù)，模型格局呈現(xiàn)出明顯的“大模型控榜，小模型控場”的分化態(tài)勢。

在前20名的榜單中，傳統(tǒng)意義上的大尺寸旗艦?zāi)Ｐ停ㄈ鏑laude Opus 4.6、DeepSeek V3.2等），主要分布在榜單頭部和中上部，依然掌握著復(fù)雜任務(wù)的話語權(quán)；而主打輕量化、高性價比的小尺寸模型（如Gemini 3 Flash、Grok 4.1 Fast、GPT-5.4 Nano等），且多集中在第 8 名至第 20 名的區(qū)間，形成了不可忽視的“腰部力量”。

可以明顯看到，小尺寸模型的漲幅驚人。根據(jù)4月16日數(shù)據(jù)，排名第17位的 GPT-5.4 Nano以48%的驚人漲幅領(lǐng)跑增長榜，100B模型Elephant單日漲幅 38%。

從App使用情況來看，OpenClaw、Hermes Agent、Kilo Code、CLaude Code 等成為這些小尺寸模型的“最大流量貢獻”，開發(fā)者正在將小尺寸模型作為高頻、低延遲任務(wù)的首選。

在業(yè)界看來，100B-300B已然成為一個實用主義區(qū)間。GPT-5.4-Mini是目前這條路線的典型代表之一，以更低延遲和更低成本大幅縮小與旗艦?zāi)Ｐ偷男阅懿罹唷?/p>

OpenAI 此前著重強調(diào)了新模型在多模型分層系統(tǒng)中的位置：以其自研編程助手Codex為例，GPT-5.4負責(zé)規(guī)劃、協(xié)調(diào)與最終判斷，而GPT-5.4 mini子智能體則并行處理代碼庫檢索、大文件審閱及輔助文檔處理等粒度更細的子任務(wù)。

OpenAI表示，隨著小型模型速度更快、功能更強大，開發(fā)者無需使用單一模型處理所有任務(wù)，而是可以構(gòu)建系統(tǒng)，由大型模型負責(zé)決策，小型模型則快速大規(guī)模地執(zhí)行任務(wù)。這種分層調(diào)用的模式開始變得實用而非將就。

Elephant Alpha是另一個值得關(guān)注的案例，該模型于4月13日深夜上線 Openrouter。同為100B參數(shù)，Elephant定位為“智能效率”優(yōu)先，在保持256K 上下文窗口的同時，重點優(yōu)化Token使用效率，適合代碼補全、快速文檔處理和輕量Agent交互等場景。由于來源匿名，其具體技術(shù)細節(jié)尚不透明，但在開發(fā)者社區(qū)已有相當(dāng)?shù)膶崪y關(guān)注。

效率不是降級，是分工

旗艦?zāi)Ｐ筒粫?。在需要跨領(lǐng)域深度推理、多步驟規(guī)劃、復(fù)雜代碼生成的任務(wù)上，它們?nèi)匀皇潜匾?。沒有人認真地認為100B模型可以在所有場景下替代旗艦版。

但在日常的業(yè)務(wù)執(zhí)行層——那些占據(jù)大多數(shù)調(diào)用量的任務(wù)——用旗艦?zāi)Ｐ褪窃跒椴恍枰哪芰Ω顿M。把這部分流量遷移到效率更高的模型上，毫無疑問是更具性價比的決策。

這種分工在軟件工程里有先例。CPU發(fā)展從追求單核主頻轉(zhuǎn)向多核協(xié)作，不是因為單核不重要，而是因為在實際工作負載下，多核架構(gòu)的整體吞吐遠超單純堆主頻。數(shù)據(jù)庫領(lǐng)域也有類似的演變：OLTP和OLAP長期共存，不同的查詢特征對應(yīng)不同的存儲和計算架構(gòu)。

模型選型的邏輯正在經(jīng)歷類似的成熟。Token效率正在成為工程師評估模型的核心維度之一——不是因為便宜，而是因為在高頻調(diào)用的場景下，它直接關(guān)系到產(chǎn)品的商業(yè)可行性。那些在單位成本下能提供足夠推理質(zhì)量的模型，正在成為 Agentic應(yīng)用的默認底座。

一條路線日漸清晰：規(guī)模繼續(xù)重要，但效率開始定價......

*以上內(nèi)容不構(gòu)成投資建議，不代表刊登平臺之觀點，市場有風(fēng)險，投資需謹慎，請獨立判斷和決策。