百萬Tokens推理成本降低100倍以上、DeepVerse技術路線圖重磅公開、未來三年大算力戰(zhàn)略清晰錨定——這幅AI算力進化的宏圖正徐徐展開。

當AI大模型從訓練走向應用，推理芯片的時代正在悄然來臨。2月3日，云天勵飛董事長兼 CEO 陳寧在“大算力芯片戰(zhàn)略前瞻會”詮釋了一個清晰的信號：All in AI大算力推理芯片，打造“中國版TPU”。

這家2014年成立于深圳的AI公司，在過去十年里走過了從小模型到大模型、從感知智能到通用智能的完整歷程。

1

機遇

“從2025年開始，接下來5～10年將是AI推理芯片的高光時刻?！标悓幗忉專瑔我淮竽Ｐ偷乃懔π枨笳谝泽@人的速度增長。

2024年下半年，豆包大模型的每日TOKEN數量為0.12萬億；而到了2025年9月，這一數字已突破30萬億；三個月后，再次攀升至50萬億。

陳寧強調：“這些激增的TOKEN數量就是未來第四次工業(yè)革命的電和水，是真正的核心生產力”。而如此海量的TOKEN需要的不是訓練，而是推理。

一個典型的例子，英偉達剛剛花了200億美元收購了一家ASIC推理芯片公司Grok，在短短四個月內，Grok的市值從70億美元飆升至200億美元，增長速度已經超越了英偉達。究其原因，陳寧認為：“因為在過去三年，推理芯片的增長已經潛移默化地超越了訓練芯片的增長?！?/p>

2

布局

云天勵飛的技術壁壘主要集中于兩方面：獨特的GPNPU芯片推理架構和基于國產工藝的全面能力。

GPNPU并非單一概念，而是一個高度濃縮的名詞，包含了四個關鍵技術亮點：

首先是具有GPGPU級別的通用編程能力，實現CUDA兼容，讓客戶能夠在GPU上訓練的模型“一行代碼”部署到云天勵飛芯片上。

其次是NPU帶來的推理效率提升，基于團隊20年的NPU技術積累。由專用的指令集去實現單位硅芯片面積上更高效的計算密度，這也正是云天勵飛團隊所擅長。

第三個亮點是3D memory結構的引入，能夠實現10倍于當前訓練芯片HBM的超大帶寬。

最后是“算力積木”架構，通過Chiplet技術將多個Die封裝在單一芯片內，滿足萬億級乃至十萬億級MOE架構大模型的推理需求。

由此得出：“GPNPU 是中國版TPU的最優(yōu)解。”今年，云天勵飛也將全面推出GPNPU的架構，并且打造更加豐富的生態(tài)。

3

差異

“訓練芯片和推理芯片對于算力的需求完全不同?！标悓幗忉屃藘烧叩母緟^(qū)別。

訓練芯片需要復雜的精度（16比特、64比特），對成本并不敏感；而推理芯片則更關注成本、效率和市場經濟學，通常采用量化、剪枝技術，將復雜度從32比特降至16比特、8比特甚至更低。

“推理我們關注極致的性價比，要把百萬TOKEN的成本每年降低100倍，到2030年我們要實現百億TOKEN一分錢人民幣。”陳寧立下目標。

這種對性價比的極致追求，也是云天勵飛選擇國產工藝的原因之一。早在2020年，他們就戰(zhàn)略性決定將工藝轉向國內，全面擁抱國產工藝。云天勵飛CTO李愛軍非常自豪：“五年的時間，我們從芯片的設計到先進的制程、封裝，整個芯片的全流程都實現了全國產。”

4

戰(zhàn)略

會上，云天勵飛提出了明確的三年規(guī)劃：將不遺余力投入大算力芯片DeepVerse的研發(fā)，圍繞推理成本、時延與吞吐的核心矛盾持續(xù)迭代，并按產品節(jié)奏梯度覆蓋市場需求。

陳寧展現出極強的信心：“在訓練芯片領域，我們努力的目標是持續(xù)追趕，保持差距不被拉大。但是在推理芯片領域，中國完全有機會依托豐富的應用場景、電網和基礎設施能力進行超車?！?/p>

5

生態(tài)

云天勵飛的戰(zhàn)略不僅僅停留在芯片層面。陳寧在演講中詳細介紹了該公司的“1+4”組織架構調整：聚焦AI大算力推理芯片的同時，打造了四個事業(yè)部。

這些事業(yè)部構成了云天勵飛“把推理芯片不僅做出來，更要做好、賣出去”的完整生態(tài)。具體而言，政企事業(yè)部是公司的基石，在各個行業(yè)沉淀了大量knowhow；智算事業(yè)部面向互聯網大廠；此外，他們還孵化了面向兒童的AI原生硬件智能體“嚕咔”。“這四個事業(yè)部讓云天勵飛成為中國最懂AI的推理芯片領軍企業(yè)?！?/p>

6

中國正站在第四次工業(yè)革命的門口。陳寧在演講結束時描繪了一幅歷史畫卷：“中國四大發(fā)明曾經領先全球一兩千年。今天在能源、開源模型、應用、基礎設施上，中國可以說在全球領先，唯獨AI芯片還未實現領先?！?/p>

AI推理芯片，正成為各國能否搶占第四次工業(yè)革命先機的關鍵。我們相信，隨著云天勵飛在國產大算力推理芯片上的全面布局，中國在這場AI芯片競賽中已經找到了自己的跑道。

本文內容資料源自公告及媒體公開報道，不構成任何投資建議，如有任何問題，敬請讀者與我們聯系info@gsi24.com。

歡迎分享、點贊、在看，讓更多人看到中國“芯”突破！