很多業(yè)內(nèi)人士已經(jīng)注意到，似乎DeepSeek-R1等開源模型，在回答問題時(shí)往往缺乏“節(jié)制”。尤其是簡(jiǎn)單問題，它想得過于復(fù)雜了。它的單位token成本的API價(jià)格優(yōu)勢(shì)，最終將可能被不受制約的“冗長(zhǎng)思考”所侵蝕。

NousResearch團(tuán)隊(duì)一項(xiàng)研究，就是想搞清楚，開源權(quán)重模型在完成相同任務(wù)時(shí)，是否系統(tǒng)性地需要比閉源模型更多的token？當(dāng)將token消耗數(shù)量納入考量后，這種差異如何影響總體推理成本？這種效率差異在不同的任務(wù)類型中是否更加顯著？

該研究發(fā)現(xiàn)，對(duì)于不需要復(fù)雜推理就可直答的知識(shí)題（Knowledge questions），開源模型的“浪費(fèi)”最為明顯，DeepSeek-R1-0528完成任務(wù)消耗的token數(shù)量（completion tokens）——它既包括向用戶呈現(xiàn)的輸出結(jié)果，也包括思維鏈（CoT），并與實(shí)際計(jì)費(fèi)的token數(shù)量相匹配——要比基準(zhǔn)水平高出4倍。不過，到了需要推理數(shù)學(xué)題（Math problems）以及更復(fù)雜的邏輯謎題（Logic puzzles），DeepSeek-R1-0528消耗的token數(shù)量，高出基準(zhǔn)水平縮小至2倍左右?？磥韺?shí)際工作中，向合適的模型詢問合適的問題是一大學(xué)問。

事實(shí)上，AI招聘獨(dú)角獸公司Mercor的也注意到了這一現(xiàn)象。在它提出的衡量大模型的AI生產(chǎn)力指數(shù)的APEX-v1.0基準(zhǔn)上，Qwen-3-235B和DeepSeek-R1的輸出長(zhǎng)度都超過了其他前沿模型。它們思考得更久，可以彌補(bǔ)一些不足，提升了平均成績(jī)，代價(jià)就是更多的token消耗。

但這也是“慢思考”剛推出時(shí)的魅力，不是嗎？在預(yù)訓(xùn)練擴(kuò)展邊際放緩后，測(cè)試時(shí)擴(kuò)展越來越重要，是提升解題能力的關(guān)鍵?；氐絅ousResearch團(tuán)隊(duì)的研究上，DeepSeek-R1在各類邏輯謎題的準(zhǔn)確率，也明顯勝出一籌。也許它慢了一些，用的token也多了一些，但答對(duì)了題！

所以，開源模型相比前沿閉源模型，究竟經(jīng)濟(jì)不經(jīng)濟(jì)?

如果有一個(gè)最簡(jiǎn)易的統(tǒng)計(jì)公式，那么token經(jīng)濟(jì)可以歸納為：AI完成一項(xiàng)任務(wù)的收益=token兌現(xiàn)的價(jià)值-單位token成本×消耗token數(shù)量。

Token兌現(xiàn)的價(jià)值，一方面取決于模型能不能最終解決現(xiàn)實(shí)問題，另一方面則取決于它所解決的問題有多值錢。它下圍棋戰(zhàn)勝世界冠軍，值多少錢？獲得奧數(shù)金牌，又值多少錢？但更重要的是，在實(shí)際工作場(chǎng)景中創(chuàng)造出經(jīng)濟(jì)價(jià)值，而這些價(jià)值由市場(chǎng)來決定。

單位token成本也決定著模型的經(jīng)濟(jì)性。黃仁勛一直鼓吹“買得越多，省得越多”，就是從硬件與基礎(chǔ)設(shè)施層面優(yōu)化能效，降低運(yùn)營(yíng)成本的邏輯。這是美國(guó)的強(qiáng)項(xiàng)。目前，美國(guó)幾乎所有AI云巨頭與前沿大模型廠商，都在探索與部署AI定制芯片以降低推理成本。英偉達(dá)計(jì)劃自研HBM基礎(chǔ)裸片（Base Die），OpenAI則找上了SK海力士與三星合作；閃迪甚至預(yù)見了數(shù)年后HBF的顛覆性。

中國(guó)開源社區(qū)的貢獻(xiàn)，主要在于算法和架構(gòu)的改進(jìn)，對(duì)MOE推理與注意力機(jī)制的探索層出不窮。阿里巴巴的架構(gòu)，總參數(shù)80B，卻只需激活3B，即可媲美旗艦版Qwen3-235B性能，效率大幅提升。DeepSeek最新發(fā)布的引入了DSA機(jī)制，能在成本更低的同時(shí)幾乎不影響模型的輸出效果。這些都體現(xiàn)為每百萬token的輸入和輸出成本在持續(xù)下降。

微軟近期一篇為自己的碳足跡“洗白”的論文中，駁斥過往的紙面研究，往往忽略了實(shí)際部署環(huán)境中的規(guī)模效應(yīng)與軟硬件優(yōu)化措施。論文提到，就每次AI查詢而言，實(shí)際能耗要比預(yù)估低8-20倍。其中，硬件改進(jìn)帶來1.5至2倍降幅，模型改進(jìn)帶來3至4倍降幅，工作負(fù)載優(yōu)化帶來2至3倍降幅。

這里的工作負(fù)載優(yōu)化，既包括KV緩存管理與批大小管理等提升單位token生成效率的手段，也包括用戶手動(dòng)設(shè)置token預(yù)算上限，或自動(dòng)觸發(fā)智能路由調(diào)用合適模型等降低token消耗數(shù)量的技術(shù)。OpenAI堅(jiān)持讓實(shí)時(shí)路由系統(tǒng)，根據(jù)對(duì)話類型、復(fù)雜度、所需工具和明確意圖快速?zèng)Q定調(diào)用哪個(gè)模型。字節(jié)跳動(dòng)的Knapsack RL也是類似的預(yù)算分配策略探索。這些都是出于性價(jià)比的考慮。

很長(zhǎng)一段時(shí)間以來，在討論token經(jīng)濟(jì)學(xué)時(shí)，完成任務(wù)的token消耗數(shù)量，往往被人們所忽視。這一指標(biāo)缺乏前述各類測(cè)評(píng)token價(jià)值的基準(zhǔn)，也不在大模型API定價(jià)中直接標(biāo)識(shí)出來。

但它無疑越來越重要，它決定著AI的經(jīng)濟(jì)性。實(shí)際工作不同于刷榜（有的刷榜也有算力成本上限），往往存在明顯的成本約束。前述微軟論文也擔(dān)心，隨著多模型與智能體的廣泛落地，更多的推理次數(shù)和更長(zhǎng)的推理時(shí)間將帶來更高的能耗。不僅如此，要輸出更多token，通常也意味著更長(zhǎng)的響應(yīng)時(shí)間，用戶體驗(yàn)下降；對(duì)于部分必須高速精準(zhǔn)響應(yīng)的場(chǎng)景，這甚至是生死問題；單次任務(wù)越來越多的token消耗，也可能耗盡模型的上下文窗口，限制它處理復(fù)雜長(zhǎng)任務(wù)的能力。

受限于各自的技術(shù)儲(chǔ)備、供應(yīng)鏈體系與電力供給條件，中國(guó)與美國(guó)在token經(jīng)濟(jì)學(xué)上已經(jīng)各自分岔。中國(guó)開源模型的首要目標(biāo)是在國(guó)產(chǎn)替代的現(xiàn)實(shí)中逼近前沿水平，用較多的token換取較高的價(jià)值；美國(guó)閉源模型則要開始想法設(shè)法去降低token的消耗，并提升token的價(jià)值。

從DeepSeek的R1到R1-0528，或者，從Qwen3-235B-A22B-thinking到Qwen-235B-A22B-thinking-2507，中國(guó)領(lǐng)先的開源模型的迭代，往往伴隨著總token消耗的上升。而Anthropic、OpenAI與xAI的模型迭代，則伴隨著總token消耗的降低。

到目前為止，NousResearch團(tuán)隊(duì)的研究認(rèn)為，綜合token消耗數(shù)量與單位token成本（基于海外第三方的API價(jià)格，因工作負(fù)載不同，定價(jià)區(qū)間差別較大），DeepSeek等開源模型仍具備整體成本優(yōu)勢(shì)，但在最高API定價(jià)時(shí)（即以更大的上下文或更高的吞吐速度交付結(jié)果等），它的整體成本優(yōu)勢(shì)已經(jīng)不再顯著，尤其是在回答簡(jiǎn)單問題時(shí)。

結(jié)合中國(guó)的AI算力生態(tài)，token消耗過多的短板會(huì)進(jìn)一步放大。有一項(xiàng)研究，專門就基礎(chǔ)設(shè)施的框架，量化了前沿模型的硬件配置與環(huán)境乘數(shù)，對(duì)能耗、水與碳足跡的影響。在其設(shè)定場(chǎng)景下，DeepSeek-R1成為了碳排放量最高的前沿模型，且遠(yuǎn)高于其他模型。除了與o3類似，它大量依賴CoT深度思考，還因?yàn)樵撗芯繛樗胺峙洹绷薍800等更低能效的芯片，以及更高PUE的數(shù)據(jù)中心。

當(dāng)下對(duì)性能的追求壓倒了一切。最終，起作用的將是AI的經(jīng)濟(jì)性，用盡可能少的token解決盡可能有價(jià)值的問題。

參考：

https://doi.org/10.48550/arXiv.2505.09598

https://doi.org/10.48550/arXiv.2509.20241

https://arxiv.org/html/2509.25721v2

https://github.com/cpldcpu/LRMTokenEconomy/