国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

中科曙光發(fā)了個(gè)“標(biāo)配版”超節(jié)點(diǎn),AI推理算力的未來(lái)形態(tài)?

0
分享至

OpenClaw突然爆火,既是AI Agent賽道的一次必然出圈,也是AI推理算力市場(chǎng)的一場(chǎng)壓力測(cè)試。

在2026年中關(guān)村論壇上,中科曙發(fā)布了世界首個(gè)無(wú)線纜箱式超節(jié)點(diǎn)scaleX40,在此之前,超節(jié)點(diǎn)是動(dòng)輒數(shù)百卡甚至千卡規(guī)模的龐然大物,包括中科曙光發(fā)布的scaleX640、英偉達(dá)的NVL72、華為的昇騰384等。

這些頂級(jí)超節(jié)點(diǎn)專(zhuān)為超大規(guī)模模型訓(xùn)練而生,性能強(qiáng)悍,但部署門(mén)檻極高,定制化機(jī)柜、復(fù)雜的線纜連接、專(zhuān)業(yè)的運(yùn)維團(tuán)隊(duì),動(dòng)輒數(shù)千萬(wàn)甚至上億的投資,讓它們注定只能服務(wù)于少數(shù)頭部玩家,譬如互聯(lián)網(wǎng)巨頭或者大型央國(guó)企等。

在超節(jié)點(diǎn)的“反面”,是推理市場(chǎng)上傳統(tǒng)且主流的8卡GPU服務(wù)器。這類(lèi)產(chǎn)品部署靈活、成本可控,但在面對(duì)快速升級(jí)的AI推理算力需求時(shí),性能顯得有些不足。

"8卡機(jī)在當(dāng)前來(lái)看已經(jīng)遠(yuǎn)遠(yuǎn)落伍了,即便是把互聯(lián)規(guī)模擴(kuò)展到16卡,仍然滿(mǎn)足不了模型推理服務(wù)發(fā)展的步伐。"中科曙光高級(jí)副總裁李斌表示,"支撐AI發(fā)展的算力基礎(chǔ)設(shè)施,逐漸從原來(lái)的'算力工廠'變成了'Token工廠'。算力系統(tǒng)的主要服務(wù)對(duì)象,已經(jīng)從過(guò)去支撐模型訓(xùn)練為主,轉(zhuǎn)變到現(xiàn)在以服務(wù)于推理為主。"

在訓(xùn)練時(shí)代,評(píng)價(jià)算力系統(tǒng)的核心指標(biāo)是有多少算力;而在推理時(shí)代,更關(guān)鍵的指標(biāo)變成了"能以多經(jīng)濟(jì)的成本產(chǎn)出Token"。


圖片來(lái)自AI生成

AI需求分化,推理算力遠(yuǎn)未滿(mǎn)足

從當(dāng)前市場(chǎng)需求來(lái)看,AI算力結(jié)構(gòu)正在發(fā)生分層變化。根據(jù)行業(yè)機(jī)構(gòu)預(yù)測(cè),全球AI基礎(chǔ)設(shè)施投入仍將保持較快增長(zhǎng),但新增需求正逐步從超大規(guī)模集群,轉(zhuǎn)向企業(yè)級(jí)和行業(yè)應(yīng)用場(chǎng)景。

在這一趨勢(shì)下,算力配置的重點(diǎn)不再單純追求規(guī)模上限,而是更加關(guān)注性能、成本與靈活性的平衡。業(yè)內(nèi)普遍共識(shí),幾十卡規(guī)模已足夠滿(mǎn)足大多數(shù)行業(yè)場(chǎng)景模型訓(xùn)練、推理及開(kāi)發(fā)測(cè)試的算力需求,這也是兼顧效率與投入的最大公約數(shù)區(qū)間。

但是,AI應(yīng)用層的需求演化太快,包括像OpenClaw為代表的AI Agent的爆火,在改變傳統(tǒng)行業(yè)應(yīng)用的同時(shí),對(duì)當(dāng)下算力供給側(cè)也帶來(lái)了系統(tǒng)重構(gòu)的需求。

第一是通信的瓶頸,現(xiàn)在MoE模型讓通信成為提升算力利用率的核心卡點(diǎn),尤其是專(zhuān)家分布的不確定性,導(dǎo)致大量跨卡、跨機(jī)通信,直接擊穿了傳統(tǒng)8卡服務(wù)器的算力架構(gòu)。

第二是顯存的瓶頸,上下文窗口持續(xù)擴(kuò)展,OpenClaw所需的長(zhǎng)上下文記憶能力,也讓大顯存、KV Cache的需求日漸激增,這同樣是傳統(tǒng)8卡服務(wù)器難以突破的局限。

第三是算力利用率的瓶頸,算力利用率和推理落地成本近乎反比,傳統(tǒng)集群普遍存在算力利用率不足的問(wèn)題,核心挑戰(zhàn)不是單純堆硬件,而是通過(guò)硬件架構(gòu)創(chuàng)新,搭配配套系統(tǒng)工程、優(yōu)化工程的協(xié)同發(fā)力,實(shí)現(xiàn)系統(tǒng)效能和有效算力的雙重提升。

第四則是生態(tài)的瓶頸,國(guó)產(chǎn)算力生態(tài)體系復(fù)雜、廠商眾多、產(chǎn)業(yè)鏈漫長(zhǎng),產(chǎn)業(yè)協(xié)作難度不小,這就需要借助開(kāi)放計(jì)算架構(gòu),打通芯片、模型、應(yīng)用等全產(chǎn)業(yè)鏈上下游,打造開(kāi)放易用、開(kāi)箱即用、經(jīng)濟(jì)普惠的算力底座。

中科曙光希望用40卡的“標(biāo)配”超節(jié)點(diǎn)回應(yīng)市場(chǎng)。"40卡這個(gè)甜點(diǎn)區(qū),是我們跟各種客戶(hù)調(diào)研摸索出來(lái)的。"中科曙光副總裁李柳表示,當(dāng)前主流模型的參數(shù)規(guī)模和使用場(chǎng)景,32-40卡已經(jīng)能夠覆蓋大多數(shù)行業(yè)需求,同時(shí)又能兼顧成本與性能的平衡。


scaleX40單節(jié)點(diǎn)集成40張GPU,總算力超過(guò)28PFLOPS(FP8精度),HBM顯存容量超過(guò)5TB,訪存帶寬超過(guò)80TB/s。系統(tǒng)可靠性提升至99.99%。

scaleX40的規(guī)模配置,既具備支持大模型訓(xùn)練和推理的能力,又不會(huì)帶來(lái)過(guò)重的投入壓力,它向下可兼顧32卡,滿(mǎn)足中小規(guī)模訓(xùn)練、推理和開(kāi)發(fā)測(cè)試;向上,它可以通過(guò)擴(kuò)展,組成更大規(guī)模集群。

李斌算了一筆賬:"傳統(tǒng)5臺(tái)8卡機(jī)器疊加各類(lèi)成本的投入,與scaleX40基本相當(dāng),但scaleX40可以將訓(xùn)練性能提升120%,推理性能最高提升至330%。"

從DeepSeek到OpenClaw,新的算力轉(zhuǎn)折點(diǎn)

"Token需要算力來(lái)做產(chǎn)出,但評(píng)價(jià)的維度和指標(biāo)變得更多了。"李斌認(rèn)為,"對(duì)于普通用戶(hù),關(guān)注的是響應(yīng)速度,問(wèn)了一個(gè)問(wèn)題,它能不能很快反饋回來(lái);對(duì)于算力系統(tǒng)的運(yùn)營(yíng)者,要考慮能同時(shí)支撐多少用戶(hù)的并發(fā)訪問(wèn),同時(shí)滿(mǎn)足基本的使用體驗(yàn)。"

智源研究院AI框架研發(fā)部門(mén)負(fù)責(zé)人敖玉龍也提出,"未來(lái)對(duì)算力供給方來(lái)說(shuō),關(guān)鍵指標(biāo)是如何將算力轉(zhuǎn)換成有效的Token,而不是無(wú)效的Token。誰(shuí)能把這個(gè)成本降下去,誰(shuí)才是真正的贏家。"

scaleX40的設(shè)計(jì)圍繞這些新需求展開(kāi)。144G大顯存支持長(zhǎng)上下文窗口,多級(jí)KV Cache緩存機(jī)制滿(mǎn)足推理場(chǎng)景的大顯存需求,40卡高帶寬域的一級(jí)互聯(lián)將專(zhuān)家通信的out-to-out流量收攬?jiān)趩蝹€(gè)節(jié)點(diǎn)內(nèi)。這些特性都是在控制成本的前提下,最大化單位算力的Token產(chǎn)出效率。

無(wú)線纜箱式設(shè)計(jì)也是scaleX40一個(gè)很大的差異化。傳統(tǒng)超節(jié)點(diǎn)的一個(gè)核心痛點(diǎn)在于部署復(fù)雜度。以英偉達(dá)NVL72為例,其采用銅纜連接方案,機(jī)柜之間需要大量的線纜互聯(lián),不僅對(duì)機(jī)房環(huán)境要求苛刻,部署周期長(zhǎng),而且后期運(yùn)維的故障率也居高不下。

scaleX40的解法和英偉達(dá)于今年GTC大會(huì)公布的最新解決方案相似,通過(guò)總線技術(shù)實(shí)現(xiàn)Scale-up擴(kuò)展,計(jì)算節(jié)點(diǎn)與交換節(jié)點(diǎn)采用無(wú)線纜正交架構(gòu)直接對(duì)插。

這一設(shè)計(jì)帶來(lái)了多重收益,首先,總線技術(shù)性能達(dá)到傳統(tǒng)NDR網(wǎng)絡(luò)的10倍以上,支持內(nèi)存語(yǔ)義和顯存統(tǒng)一編址;其次,一層組網(wǎng)將P2P單向時(shí)延降至百納秒以?xún)?nèi),相比二層組網(wǎng)時(shí)延降低30%以上,故障率降低30%-50%。

其次,scaleX40采用標(biāo)準(zhǔn)19英寸箱式設(shè)計(jì),單機(jī)高度僅16U,可以直接放入主流機(jī)柜,兼容現(xiàn)有數(shù)據(jù)中心環(huán)境,無(wú)需額外改造。

"過(guò)去很多產(chǎn)品要么柜子比較大,要么非標(biāo)準(zhǔn)化,要么機(jī)房改造非常復(fù)雜。"李柳說(shuō)道,"scaleX40可以放在標(biāo)準(zhǔn)機(jī)柜里面,接標(biāo)準(zhǔn)機(jī)房的供電和冷卻設(shè)備,部署和使用門(mén)檻大大降低。"

中國(guó)電信研究院智算網(wǎng)絡(luò)技術(shù)負(fù)責(zé)人王子瀟也表示:"以超節(jié)點(diǎn)形態(tài)提供推理服務(wù),性能比傳統(tǒng)單機(jī)8卡提升約2.6倍。超節(jié)點(diǎn)的‘開(kāi)箱即用’能力顯著增強(qiáng),Scale-out網(wǎng)絡(luò)的配置復(fù)雜度有數(shù)量級(jí)降低,對(duì)于整個(gè)行業(yè)規(guī)?;瘧?yīng)用非常有意義。"

更深層來(lái)看,scaleX40的發(fā)布也折射出國(guó)產(chǎn)算力生態(tài)的成熟。從芯片到系統(tǒng)軟件,從存儲(chǔ)到網(wǎng)絡(luò),從算子庫(kù)到通信庫(kù),一條完整的產(chǎn)業(yè)鏈正在形成。正如李斌所言:"我們?cè)谡麄€(gè)國(guó)內(nèi)計(jì)算AI生態(tài)里,從芯片到系統(tǒng)軟件,到上層模型和應(yīng)用,在做垂直的跨層協(xié)同,通過(guò)垂直方向的耦合和協(xié)同去發(fā)揮更好的效率。"

當(dāng)超節(jié)點(diǎn)開(kāi)始以更簡(jiǎn)單的方式被部署和使用,當(dāng)千行百業(yè)都能以合理的成本獲得高端算力能力,中國(guó)AI的規(guī)模化應(yīng)用,或許才真正邁出了關(guān)鍵一步。(本文作者 | 張帥,編輯 | 楊林)

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
廣州長(zhǎng)隆野生動(dòng)物園的獅子在暴雨中營(yíng)業(yè)?園方工作人員:打開(kāi)了籠道給它避雨,淋雨是它的自發(fā)行為

廣州長(zhǎng)隆野生動(dòng)物園的獅子在暴雨中營(yíng)業(yè)?園方工作人員:打開(kāi)了籠道給它避雨,淋雨是它的自發(fā)行為

極目新聞
2026-03-31 11:48:35
演員陳妍希突發(fā)意外!已緊急手術(shù)

演員陳妍希突發(fā)意外!已緊急手術(shù)

大象新聞
2026-03-31 19:13:09
伊朗伊斯蘭革命衛(wèi)隊(duì)稱(chēng)已為消耗美以實(shí)力制定長(zhǎng)遠(yuǎn)計(jì)劃

伊朗伊斯蘭革命衛(wèi)隊(duì)稱(chēng)已為消耗美以實(shí)力制定長(zhǎng)遠(yuǎn)計(jì)劃

財(cái)聯(lián)社
2026-03-31 19:24:18
王建軍被逮捕!

王建軍被逮捕!

農(nóng)民日?qǐng)?bào)
2026-03-31 10:28:33
你敢信?張雪峰追悼會(huì)過(guò)去僅一天,峰學(xué)蔚來(lái)已全面改名峰學(xué)未來(lái)了

你敢信?張雪峰追悼會(huì)過(guò)去僅一天,峰學(xué)蔚來(lái)已全面改名峰學(xué)未來(lái)了

離離言幾許
2026-03-31 15:52:54
欲哭無(wú)淚!股價(jià)一天暴跌73%!股民:20萬(wàn)虧得只剩渣了…

欲哭無(wú)淚!股價(jià)一天暴跌73%!股民:20萬(wàn)虧得只剩渣了…

新浪財(cái)經(jīng)
2026-03-31 17:10:41
以軍稱(chēng)將在4月1日打擊伊朗“所有關(guān)鍵軍事生產(chǎn)設(shè)施”

以軍稱(chēng)將在4月1日打擊伊朗“所有關(guān)鍵軍事生產(chǎn)設(shè)施”

財(cái)聯(lián)社
2026-03-31 19:24:30
31號(hào)收評(píng):李嘉誠(chéng)巴菲特同時(shí)清倉(cāng)釋放何信號(hào)?A股后市將何去何從

31號(hào)收評(píng):李嘉誠(chéng)巴菲特同時(shí)清倉(cāng)釋放何信號(hào)?A股后市將何去何從

春江財(cái)富
2026-03-31 15:47:20
美國(guó)打伊朗,欲讓阿拉伯國(guó)家掏光家底埋單?特朗普:繼續(xù)打給5萬(wàn)億美元,停戰(zhàn)打5折?

美國(guó)打伊朗,欲讓阿拉伯國(guó)家掏光家底埋單?特朗普:繼續(xù)打給5萬(wàn)億美元,停戰(zhàn)打5折?

紅星新聞
2026-03-31 16:58:56
4月1日起全國(guó)出行新規(guī)落地:高速限速五檔,后排不系安全帶罰錢(qián)

4月1日起全國(guó)出行新規(guī)落地:高速限速五檔,后排不系安全帶罰錢(qián)

優(yōu)視汽車(chē)
2026-03-31 20:35:36
張雪機(jī)車(chē)銷(xiāo)售稱(chēng)奪冠后兩三天內(nèi)訂單大漲,已排至6月 車(chē)主:不只為情懷買(mǎi)單,也看重其性?xún)r(jià)比

張雪機(jī)車(chē)銷(xiāo)售稱(chēng)奪冠后兩三天內(nèi)訂單大漲,已排至6月 車(chē)主:不只為情懷買(mǎi)單,也看重其性?xún)r(jià)比

紅星新聞
2026-03-31 13:49:17
內(nèi)塔尼亞胡:中俄朝再怎么反美,也沒(méi)像伊朗那樣喊“美國(guó)去死”!

內(nèi)塔尼亞胡:中俄朝再怎么反美,也沒(méi)像伊朗那樣喊“美國(guó)去死”!

阿龍聊軍事
2026-03-31 19:31:00
年僅18卻瘋狂撈金,單依純家境被曝光后,才知道她為何著急賺錢(qián)!

年僅18卻瘋狂撈金,單依純家境被曝光后,才知道她為何著急賺錢(qián)!

天天熱點(diǎn)見(jiàn)聞
2026-03-31 12:39:20
“玩具店主買(mǎi)賣(mài)槍支案”兩當(dāng)事人各獲國(guó)賠16萬(wàn)余元,均被羈押279天

“玩具店主買(mǎi)賣(mài)槍支案”兩當(dāng)事人各獲國(guó)賠16萬(wàn)余元,均被羈押279天

大風(fēng)新聞
2026-03-31 20:54:07
民進(jìn)黨當(dāng)局急得跳腳!臺(tái)陸委會(huì)主委威脅鄭麗文

民進(jìn)黨當(dāng)局急得跳腳!臺(tái)陸委會(huì)主委威脅鄭麗文

看看新聞Knews
2026-03-31 20:27:01
福特航母戰(zhàn)斗群5700官兵被扣押,接受調(diào)查

福特航母戰(zhàn)斗群5700官兵被扣押,接受調(diào)查

遠(yuǎn)方青木
2026-03-30 23:59:08
突發(fā)利空!A股跳水超4300家下跌,3月官方制造業(yè)PMI為50.4%超預(yù)期

突發(fā)利空!A股跳水超4300家下跌,3月官方制造業(yè)PMI為50.4%超預(yù)期

看財(cái)經(jīng)show
2026-03-31 17:25:50
美國(guó)國(guó)防部長(zhǎng):考慮到部分盟友拒絕提供幫助,特朗普將在對(duì)伊朗軍事行動(dòng)結(jié)束后就北約的未來(lái)作出決定

美國(guó)國(guó)防部長(zhǎng):考慮到部分盟友拒絕提供幫助,特朗普將在對(duì)伊朗軍事行動(dòng)結(jié)束后就北約的未來(lái)作出決定

瀟湘晨報(bào)
2026-03-31 21:53:15
單依純演唱會(huì)互動(dòng)發(fā)言沒(méi)素質(zhì):我的歌很難唱,老了都得夾著屁股唱

單依純演唱會(huì)互動(dòng)發(fā)言沒(méi)素質(zhì):我的歌很難唱,老了都得夾著屁股唱

觀魚(yú)聽(tīng)雨
2026-03-30 18:56:54
打!傾家蕩產(chǎn)也要打!以色列最新民調(diào):75%民眾要求死磕到底!

打!傾家蕩產(chǎn)也要打!以色列最新民調(diào):75%民眾要求死磕到底!

共工之錨
2026-03-30 15:16:22
2026-04-01 00:40:49
鈦媒體APP incentive-icons
鈦媒體APP
獨(dú)立財(cái)經(jīng)科技媒體
131613文章數(shù) 862040關(guān)注度
往期回顧 全部

科技要聞

華為2025年銷(xiāo)售收入8809億,凈利潤(rùn)680億元

頭條要聞

男子玩具店買(mǎi)槍被羈押279天獲國(guó)賠16萬(wàn):打官司花40萬(wàn)

頭條要聞

男子玩具店買(mǎi)槍被羈押279天獲國(guó)賠16萬(wàn):打官司花40萬(wàn)

體育要聞

縣城修車(chē)工,用20年成為世界冠軍

娛樂(lè)要聞

《月鱗綺紀(jì)》空降 鞠婧祎卻被舉報(bào)偷稅

財(cái)經(jīng)要聞

油價(jià)暴漲 我們的生活成本會(huì)飆升多少?

汽車(chē)要聞

騰勢(shì)Z9GT到底GT在哪?

態(tài)度原創(chuàng)

教育
游戲
房產(chǎn)
旅游
時(shí)尚

教育要聞

微專(zhuān)題:高考地理中的地理實(shí)驗(yàn)

上一秒還在嘲笑瓦學(xué)弟,下一秒就去“抗癌”了

房產(chǎn)要聞

重磅!海南城市更新擬出新政!

旅游要聞

沿滬寧好去處丨上海西站出發(fā),逛花海、品早茶、看球賽!泰州發(fā)布三大春季主題線路

「性治療室」里的00后,男多女少

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版