解析曦望新一代推理GPU芯片啟望S3。

作者｜王藝

編輯｜王博

國(guó)產(chǎn)GPU又有新發(fā)布。

1月27日，國(guó)產(chǎn)GPU廠商曦望（Sunrise）在杭州發(fā)布新一代推理GPU芯片啟望S3，并同步推出面向大模型推理的超節(jié)點(diǎn)方案及推理云計(jì)劃。這是曦望在近一年累計(jì)完成約30億元戰(zhàn)略融資后的首次系統(tǒng)性技術(shù)亮相。

曦望是國(guó)產(chǎn)全棧自研人工智能算力芯片企業(yè)，前身是商湯大芯片部門(mén)，2024年底分拆獨(dú)立運(yùn)營(yíng)，專(zhuān)注于高性能GPU及多模態(tài)場(chǎng)景推理芯片的研發(fā)與商業(yè)化。

曦望聯(lián)席CEO王勇身穿皮衣、牛仔褲走上舞臺(tái)，作為一位芯片技術(shù)老兵，這個(gè)場(chǎng)景他并不陌生。王勇曾任AMD dGPU首席架構(gòu)師、昆侖芯核心架構(gòu)師，2020年加入商湯科技領(lǐng)導(dǎo)大芯片部門(mén)，為曦望的前身奠定技術(shù)基礎(chǔ)。

這一次，他和團(tuán)隊(duì)目標(biāo)很明確——極致推理性?xún)r(jià)比。

啟望S3是一款面向大模型推理深度定制的GPGPU芯片，其設(shè)計(jì)進(jìn)行了系統(tǒng)級(jí)重構(gòu)。

在算力層面，啟望S3支持從FP16到FP4的多精度靈活切換。模型在保證效果的前提下，最大化釋放低精度推理效率。

在存儲(chǔ)層面，啟望S3采用LPDDR6顯存方案，成為國(guó)內(nèi)首款采用該方案的芯片。相比HBM（高帶寬內(nèi)存）路線，LPDDR6更強(qiáng)調(diào)容量與能效比。

系統(tǒng)級(jí)重構(gòu)，也體現(xiàn)在推理成本上。在DeepSeek V3/R1滿血版等主流大模型推理場(chǎng)景中，啟望S3單位Token推理成本較上一代產(chǎn)品下降約90%。

“當(dāng)推理成為主要算力消耗場(chǎng)景后，GPU的商業(yè)價(jià)值不再取決于參數(shù)指標(biāo)，而是單位Token的真實(shí)成本?！蓖跤抡f(shuō)。

這并不是在“畫(huà)餅”?！讣鬃庸饽辍沽私獾?，曦望2025年推理GPU芯片交付量已突破1萬(wàn)片，這說(shuō)明其推理GPU路線已完成從工程驗(yàn)證到規(guī)?；桓兜年P(guān)鍵跨越。

而新發(fā)布的啟望S3目前已完成內(nèi)部研發(fā)，預(yù)計(jì)將于今年年中流片，年底回片量產(chǎn)。

賣(mài)芯片不是一錘子買(mǎi)賣(mài)，如何把算力轉(zhuǎn)化為可交付的生產(chǎn)力，是所有國(guó)產(chǎn)GPU廠商都需要回答的問(wèn)題。

1.死磕推理成本

硅谷早期風(fēng)險(xiǎn)投資機(jī)構(gòu)Benchmark的合伙人Everett Randle在2025年底接受采訪時(shí)表示，AI應(yīng)用會(huì)有大量的AI推理成本計(jì)入COGS（銷(xiāo)售成本），導(dǎo)致毛利率低于傳統(tǒng)SaaS。

“人們因此認(rèn)為AI應(yīng)用不是一門(mén)好生意?！盓verett Randle說(shuō)，“但如果關(guān)注單客絕對(duì)毛利率，AI應(yīng)用的絕對(duì)毛利潤(rùn)可以達(dá)到普通SaaS公司的四到五倍，擁有比SaaS公司大得多的潛在市場(chǎng)。”

以剛剛上市的智譜為例，招股書(shū)顯示，智譜在2022~2024年毛利率分別為54.6%、64.6%、56.3%，2025年上半年回落至50%，這雖然高于傳統(tǒng)項(xiàng)目制公司，但和傳統(tǒng)SaaS行業(yè)相比并不突出。

就在今年的CES上，英偉達(dá)創(chuàng)始人&CEO黃仁勛宣布新一代Rubin平臺(tái)通過(guò)“極端協(xié)同設(shè)計(jì)”整合六款芯片（GPU、CPU、NVLink 6、DPU等），這將加速agentic AI、高級(jí)推理以及大規(guī)?；旌蠈?zhuān)家（MoE）模型推理，其每token成本比Blackwell平臺(tái)降低了多達(dá)10倍。

黃仁勛在CES 2026演講，圖片來(lái)源：「甲子光年」拍攝

降低推理成本已逐漸成為行業(yè)共識(shí)。

在這次曦望的發(fā)布會(huì)上，曦望董事長(zhǎng)徐冰把行業(yè)的變化概括為三句話：需求變了、場(chǎng)景變了、成本結(jié)構(gòu)變了。AI正在從“被訓(xùn)出來(lái)”走向“能被用起來(lái)”的實(shí)戰(zhàn)階段。智能體、物理AI、3D/視頻生成等場(chǎng)景爆發(fā)，會(huì)讓推理從配角變成主力。

“誰(shuí)能持續(xù)降低推理成本，誰(shuí)就掌握了AI產(chǎn)業(yè)的成本曲線。”徐冰說(shuō)。

徐冰此前是商湯集團(tuán)聯(lián)合創(chuàng)始人、執(zhí)行董事及董事會(huì)秘書(shū)。去年，徐冰辭去商湯集團(tuán)執(zhí)行董事、董事會(huì)秘書(shū)職位。后來(lái)徐冰擔(dān)任曦望董事長(zhǎng)，開(kāi)始掌舵這家國(guó)產(chǎn)GPU公司。

“如果我們能夠讓推理的成本下降90%，并且可以提供穩(wěn)定的服務(wù)，那我們的競(jìng)爭(zhēng)不是市面上的又多一個(gè)芯片選擇，而是說(shuō)我們可以真正重寫(xiě)中國(guó)AI產(chǎn)業(yè)的損益表，助力全行業(yè)盈利增收。”徐冰說(shuō)。

但這次發(fā)布會(huì)，曦望并沒(méi)有公布啟望S3更為具體的性能參數(shù)，僅用一張綜合性能指標(biāo)表格進(jìn)行了對(duì)比。

啟望S3綜合性能指標(biāo)，圖片來(lái)源：「甲子光年」拍攝

不過(guò)，「甲子光年」根據(jù)圖中的信息可以解讀出，啟望S3的綜合性能與摩爾線程的S系列智算加速卡相當(dāng)，高于昇騰910B、英偉達(dá)A系列，低于昇騰910C、英偉達(dá)H系列。

對(duì)比來(lái)看，以摩爾線程大模型智算加速卡MTT S4000為例，其采用第三代MUSA架構(gòu)，配備了Tensor核心，單卡支持48GB顯存和768GB/s的顯存帶寬。

王勇在現(xiàn)場(chǎng)更多強(qiáng)調(diào)的是成本，啟望S3的單卡成本預(yù)計(jì)在2~4萬(wàn)元之間，比友商更具性?xún)r(jià)比。

那么，如何降低推理成本？曦望進(jìn)行了一場(chǎng)架構(gòu)革命，王勇稱(chēng)之為“重新定義推理GPU”。

啟望S3架構(gòu)進(jìn)化，圖片來(lái)源：「甲子光年」拍攝

PPA是芯片設(shè)計(jì)核心指標(biāo)，代表Power（功耗）、Performance（性能）、Area（面積）。王勇介紹，啟望S3追求極致的PPA，在架構(gòu)上揚(yáng)棄了所有與訓(xùn)練相關(guān)的比較重且貴的技術(shù)組件，而采用了比較新的針對(duì)推理極致優(yōu)化的架構(gòu)和技術(shù)組件。

在IP層面，團(tuán)隊(duì)融合了國(guó)際主流GPU架構(gòu)的最新特性，引入Warp調(diào)度優(yōu)化與Tensor Memory等先進(jìn)設(shè)計(jì)，并在合規(guī)前提下采用目前最先進(jìn)的國(guó)際工藝節(jié)點(diǎn)，同時(shí)集成國(guó)際巨頭的高速接口IP。

啟望S3最顯著的差異化在于顯存方案。由于HBM與先進(jìn)封裝強(qiáng)綁定，這會(huì)大幅推高訓(xùn)推一體芯片的成本，在做了非常多的架構(gòu)研究后，曦望發(fā)現(xiàn)LPDDR6才是當(dāng)前推理的最優(yōu)解。

如果說(shuō)HBM是為訓(xùn)練而生，追求極限帶寬，不惜成本，那么LPDDR6就是為推理而生，追求容量與能效比，極致成本控制。

因此啟望S3成為國(guó)內(nèi)首款采用LPDDR6方案的芯片。官方數(shù)據(jù)顯示，S3的顯存容量較上一代產(chǎn)品提升4倍，有效緩解了大模型推理中普遍存在的顯存駐留與訪存瓶頸。

而從本質(zhì)上來(lái)看，曦望團(tuán)隊(duì)是在“性能-成本-功耗”的不可能三角中，針對(duì)推理負(fù)載特性（非連續(xù)計(jì)算、大容量需求、成本敏感）做出的精準(zhǔn)取舍。

啟望S3還擁有“黃金訪存比”，這也是團(tuán)隊(duì)在研究大模型本身特點(diǎn)后的發(fā)現(xiàn)，達(dá)到訪存比的“甜點(diǎn)”意味著不浪費(fèi)每一分的算力和帶寬。

最后是核心性能。王勇介紹，F(xiàn)lash Attention算子計(jì)算效率高達(dá)98%；GEMM算子TensorCore利用率更達(dá)99%，基于這些數(shù)據(jù)，王勇稱(chēng)：“曦望的研發(fā)和架構(gòu)能力遙遙領(lǐng)先。”

2.不止芯片

圍繞啟望S3，曦望同步發(fā)布了面向大模型推理的寰望SC3超節(jié)點(diǎn)解決方案。

寰望SC3從一開(kāi)始即面向千億、萬(wàn)億級(jí)參數(shù)多模態(tài)MoE推理的真實(shí)部署需求進(jìn)行設(shè)計(jì)。該方案支持單域256卡一級(jí)互聯(lián)，可高效支撐PD分離架構(gòu)與大EP（Expert Parallelism）規(guī)?；渴?，顯著提升推理階段的系統(tǒng)利用率與穩(wěn)定性，適配長(zhǎng)上下文、多并發(fā)、多專(zhuān)家并行等復(fù)雜推理場(chǎng)景。

在交付形態(tài)上，寰望SC3采用全液冷設(shè)計(jì)，具備極致PUE表現(xiàn)，并支持模塊化交付與快速部署。在同等推理能力量級(jí)下，該方案可將整體系統(tǒng)交付成本從行業(yè)常見(jiàn)的億元級(jí)，降低至千萬(wàn)元級(jí)，實(shí)現(xiàn)一個(gè)數(shù)量級(jí)的下降。

寰望SC3超節(jié)點(diǎn)，圖片來(lái)源：「甲子光年」拍攝

除了寰望，S3的產(chǎn)品矩陣還包括智望系列的PCIe卡與OMS卡、辰望系列的PCIe服務(wù)器與OMS服務(wù)器，以及熙望系列的AIPC（液冷工作站）。

S3產(chǎn)品矩陣，圖片來(lái)源：「甲子光年」拍攝

在軟件層面，曦望構(gòu)建了與CUDA兼容的基礎(chǔ)軟件體系，覆蓋驅(qū)動(dòng)、運(yùn)行時(shí)API、開(kāi)發(fā)工具鏈、算子庫(kù)和通信庫(kù)，降低推理應(yīng)用的遷移門(mén)檻。目前，該體系已適配ModelScope平臺(tái)90%以上主流大模型形態(tài)，包括DeepSeek、通義千問(wèn)等。

曦望軟硬協(xié)同，圖片來(lái)源：「甲子光年」拍攝

此外，曦望團(tuán)隊(duì)在卡間互聯(lián)方面也做了很多工作，支持高帶寬、低延時(shí)的Scale-Up、Scale-Out互聯(lián)架構(gòu)，這種原生支持的互聯(lián)架構(gòu)可以讓寰望超節(jié)點(diǎn)產(chǎn)品，不僅是256卡，也可以向下覆蓋。

“這取決于我們的客戶的需求，可以做到16到256卡這樣的超節(jié)點(diǎn)產(chǎn)品。同時(shí)，當(dāng)我們把多個(gè)超節(jié)點(diǎn)通過(guò)我們直出的RDMA（遠(yuǎn)程直接內(nèi)存訪問(wèn)）連接起來(lái)的時(shí)候，我們可以做到千卡甚至幾千卡的互聯(lián)集群。”王勇說(shuō)。

在曦望看來(lái)，推理GPU的競(jìng)爭(zhēng)并不止于芯片本身，而在于能否將硬件能力穩(wěn)定轉(zhuǎn)化為可交付、可計(jì)價(jià)的推理算力。

3.曦望憑什么能站穩(wěn)腳跟？

國(guó)產(chǎn)AI芯片已經(jīng)是一個(gè)擁擠而殘酷的賽道。

昇騰、摩爾線程、沐曦、寒武紀(jì)、億鑄、燧原等都已在某些層面證明了自己的實(shí)力，這意味著，目前的時(shí)間點(diǎn)競(jìng)爭(zhēng)已充分激烈，對(duì)技術(shù)路線和資本競(jìng)爭(zhēng)等關(guān)系公司戰(zhàn)略的重大事項(xiàng)，決策的容錯(cuò)率會(huì)大大降低。

而面對(duì)國(guó)內(nèi)外的競(jìng)爭(zhēng)，曦望憑什么能站穩(wěn)腳跟？

徐冰對(duì)于這個(gè)問(wèn)題的回答簡(jiǎn)單而直接：“我們不是在做又一個(gè)GPU，而是從底層架構(gòu)就為推理場(chǎng)景重新設(shè)計(jì)，徹底重寫(xiě)。”

在徐冰看來(lái)，啟望S3徹底拋棄了傳統(tǒng)的訓(xùn)推一體GPU為訓(xùn)練準(zhǔn)備的那些冗余設(shè)計(jì)，不追求峰值TFLOPS這種紙面數(shù)據(jù)，“我們是把真實(shí)業(yè)務(wù)場(chǎng)景中的每個(gè)token的成本，每個(gè)token的能耗，還有實(shí)實(shí)在在的穩(wěn)定性，作為所有設(shè)計(jì)決策的根本出發(fā)點(diǎn)?！?/p>

芯片設(shè)計(jì)不能紙上談兵，必須結(jié)合真實(shí)業(yè)務(wù)場(chǎng)景，滿足各種客戶需求。2025年全球大模型token的消耗量激增，其中推理消耗占了很大一部分比例，這種結(jié)構(gòu)性改變也堅(jiān)定了團(tuán)隊(duì)研發(fā)的方向。

過(guò)去的2025年，在徐冰看來(lái)是團(tuán)隊(duì)“最忙的一年”，整個(gè)團(tuán)隊(duì)幾乎是“沒(méi)日沒(méi)夜全速研發(fā)”。

目前曦望已擁有三百多人的團(tuán)隊(duì)，聚攏了行業(yè)中一批芯片研發(fā)精英，他們來(lái)自英偉達(dá)、AMD、昆侖芯、商湯等。核心的技術(shù)骨干平均有15年的行業(yè)經(jīng)驗(yàn)。徐冰形容這是“一支真正懂芯片，懂AI能落地的特種部隊(duì)”。

「甲子光年」從曦望內(nèi)部了解到，公司里有這樣一句話：我們不做“向上管理”，我們要“求真務(wù)實(shí)”。

團(tuán)隊(duì)曾經(jīng)去一家AI公司調(diào)研發(fā)現(xiàn)，這家AI公司的GPU的峰值使用率有85%，但是日均使用率只有28%。GPU的長(zhǎng)期空閑率達(dá)到40%，每月浪費(fèi)的算力成本，可以買(mǎi)兩臺(tái)新的服務(wù)器。

一個(gè)推理集群往往由眾多的服務(wù)器組成的，這些服務(wù)器在不同的推理算力的需求下會(huì)呈現(xiàn)出一個(gè)問(wèn)題——資源利用率低，而曦望就是要解決這樣的問(wèn)題。

此外，還有模型適配問(wèn)題，這也是行業(yè)當(dāng)中很多客戶都會(huì)遇到的問(wèn)題。曦望團(tuán)隊(duì)的解法是專(zhuān)門(mén)做一個(gè)MaaS（Model as a Service）平臺(tái)，方便模型調(diào)用和定制優(yōu)化。

從成功量產(chǎn)啟望S1和S2，到發(fā)布S3，展示S4和S5的路徑圖，曦望在在一步步靠近AI推理時(shí)代。過(guò)去一年，國(guó)內(nèi)已經(jīng)有一些廠商把大模型的推理價(jià)格做到了百萬(wàn)token一元甚至幾毛錢(qián)，曦望的目標(biāo)是在這個(gè)基礎(chǔ)上，把成本再壓一個(gè)數(shù)量級(jí)，把“百萬(wàn)token一分錢(qián)”變成行業(yè)新基準(zhǔn)。

徐冰介紹曦望的目標(biāo)，圖片來(lái)源：「甲子光年」拍攝

如果說(shuō)啟望S3回答的是“推理算力如何更便宜”，那么曦望與商湯科技、第四范式等生態(tài)伙伴探索的推理云平臺(tái)，則試圖解決“推理算力如何更好用”。

通過(guò)GPU池化與彈性調(diào)度，曦望將底層算力整合為統(tǒng)一的推理算力池，并以 MaaS（Model as a Service）作為核心入口，使企業(yè)無(wú)需關(guān)注底層硬件配置與集群運(yùn)維，即可按需調(diào)用大模型推理能力。這一體系也成為“百萬(wàn)Token一分錢(qián)”推理成本合作的重要技術(shù)基礎(chǔ)。

「甲子光年」了解到，曦望在過(guò)去一年內(nèi)順利完成了近30億元戰(zhàn)略融資，投資方的陣容也很強(qiáng)大，包括三一集團(tuán)旗下華胥基金、范式智能、杭州數(shù)據(jù)集團(tuán)、正大機(jī)器人、協(xié)鑫科技、游族網(wǎng)絡(luò)、北京利爾等產(chǎn)業(yè)投資方，無(wú)極資本、IDG 資本、心資本、高榕創(chuàng)投、中金資本、普華資本、松禾資本、易方達(dá)資本、工銀投資、海通開(kāi)元、越秀產(chǎn)業(yè)基金、銀泰投資、國(guó)元基金、粵民投、華民投等國(guó)內(nèi)知名VC/PE機(jī)構(gòu)，同時(shí)獲得誠(chéng)通混改基金、杭州金投、杭州高新金投等國(guó)資背景資本的加持。

當(dāng)然，推理算力價(jià)值的實(shí)現(xiàn)離不開(kāi)協(xié)同，需要芯片設(shè)計(jì)、系統(tǒng)集成、軟件開(kāi)發(fā)到產(chǎn)業(yè)應(yīng)用的全鏈條協(xié)作。曦望在生態(tài)打造、商業(yè)化等方面還有很長(zhǎng)一段路需要走。

與各類(lèi)算力廠商和芯片廠商深度合作，成為現(xiàn)有算力系統(tǒng)的推理分流是曦望的一個(gè)務(wù)實(shí)的選擇。

“曦望的使命只有一個(gè)，”徐冰說(shuō)，“就是把大模型推理這件事做到極致。”

（封面圖來(lái)源：曦望）