萬(wàn)卡超集群是人工智能時(shí)代的“重型武器”，也是衡量一個(gè)國(guó)家或科技巨頭頂尖算力水平的關(guān)鍵指標(biāo)。簡(jiǎn)單來(lái)說(shuō)，它是由超過(guò)一萬(wàn)張高性能 AI 加速卡（通常是 GPU） 通過(guò)極高速的網(wǎng)絡(luò)互聯(lián)在一起，組成的一臺(tái)超級(jí)巨大的超級(jí)計(jì)算機(jī)。

萬(wàn)卡超集群的主要使命是解決暴力計(jì)算的問(wèn)題。隨著 AI 模型越來(lái)越大（從百億參數(shù)到萬(wàn)億參數(shù)），單張顯卡甚至幾百?gòu)堬@卡已經(jīng)完全不夠用了。像 GPT-4、Claude 3 這種級(jí)別的模型，參數(shù)量達(dá)到萬(wàn)億級(jí)別。如果用單卡訓(xùn)練，可能需要幾萬(wàn)年；用千卡集群可能需要一年；而用萬(wàn)卡集群可以將訓(xùn)練時(shí)間壓縮到幾周甚至幾天。

近日，在昆山舉行的光合組織 2025 人工智能創(chuàng)新大會(huì)上，中科曙光發(fā)布并展出了 scaleX 萬(wàn)卡超集群，這也是國(guó)產(chǎn)萬(wàn)卡級(jí) AI 集群系統(tǒng)首次以真機(jī)形式亮相。

（來(lái)源：中科曙光）

在這之前，中國(guó)高端算力市場(chǎng)的聚光燈長(zhǎng)期聚焦于華為。今年 9 月份，華為輪值董事長(zhǎng)徐直軍在華為全聯(lián)接大會(huì)上介紹了華為最新的超級(jí)集群。

中科曙光的 scaleX 萬(wàn)卡超集群，其核心設(shè)計(jì)理念是構(gòu)建一個(gè)開(kāi)放、兼容、高密度的超大規(guī)模算力基礎(chǔ)設(shè)施。根據(jù)官方消息，scaleX 萬(wàn)卡超集群支持多品牌加速卡及主流計(jì)算生態(tài)，已實(shí)現(xiàn) 400+ 主流大模型、世界模型等適配優(yōu)化。在實(shí)際應(yīng)用中，該超集群可覆蓋大模型訓(xùn)練、金融風(fēng)控、地質(zhì)能源勘探及科學(xué)智能等多元場(chǎng)景。

在工程架構(gòu)上，中科曙光通過(guò) scaleX640 超節(jié)點(diǎn)，成功將 640 張加速卡壓縮在單個(gè)機(jī)柜的物理空間內(nèi)，16 個(gè)超節(jié)點(diǎn)互聯(lián)即可構(gòu)建包含 10,240 張加速卡的超大規(guī)模集群。為了應(yīng)對(duì)來(lái)自散熱和供電的挑戰(zhàn)，其采用了全浸沒(méi)式相變液冷技術(shù)，將服務(wù)器完全浸在特制液體中，在總算力突破 5 EFlops 的同時(shí)，將 PUE 值壓低至 1.04，幾乎接近理論極限（1.0），大幅降低了能耗成本。

液冷技術(shù)是中科曙光很早就開(kāi)始布局的王牌技術(shù)，根據(jù)公開(kāi)消息，子公司曙光數(shù)創(chuàng)擁有 139 項(xiàng)液冷相關(guān)專(zhuān)利，節(jié)能超 30%，屬?lài)?guó)內(nèi)唯一實(shí)現(xiàn)大規(guī)模商業(yè)化部署的企業(yè)。

此外，中科曙光搭載了自研的 ScaleFabric 高速網(wǎng)絡(luò)，可實(shí)現(xiàn) 400Gb/s 超高帶寬、低于 1 微秒的端側(cè)通信延遲，相比傳統(tǒng)的 InfiniBand 網(wǎng)絡(luò)，通信性能提升 2.33 倍，同時(shí)網(wǎng)絡(luò)總體成本降低 30%。

scaleX 將 GPU 資源利用率大幅提升55%，拒絕算力空轉(zhuǎn)；并利用數(shù)字孿生技術(shù)實(shí)現(xiàn)智能化運(yùn)維，確保集群在萬(wàn)億參數(shù)模型訓(xùn)練中達(dá)到 99.99% 的高可用性。

相比之下，華為的 Atlas 950 超節(jié)點(diǎn)則體現(xiàn)了垂直整合、全棧優(yōu)化的封閉式技術(shù)路線，以“昇騰芯片+CANN 軟件?！睒?gòu)建了堅(jiān)固的自主生態(tài)。它作為一個(gè)基礎(chǔ)算力單元，累計(jì)可部署 8,192 張加速卡。FP8 算力 8 EFlops，F(xiàn)P4 算力 16 EFlops。

這種路徑的代價(jià)是用戶(hù)被完全鎖定在華為的昇騰技術(shù)體系之內(nèi)，硬件選擇單一。此外，要達(dá)到其理論峰值性能，往往需要構(gòu)建超大規(guī)模集群，這使得初期部署門(mén)檻和總成本相對(duì)較高，且整個(gè)系統(tǒng)的供應(yīng)依賴(lài)于華為單一的國(guó)產(chǎn)芯片供應(yīng)鏈。

也就是說(shuō)，華為走的是全棧自研路線，軟硬件高度耦合，效率極高但相對(duì)封閉。而中科曙光 scaleX 強(qiáng)調(diào)“AI計(jì)算開(kāi)放架構(gòu)”，它支持多品牌加速卡混用，且底層芯片對(duì) CUDA 生態(tài)具有較高的兼容性。

華為的 Atlas 950 SuperPlus 集群則由 64 個(gè) Atlas 950 超節(jié)點(diǎn)并聯(lián)組成，整合 52 萬(wàn)顆昇騰 950T 芯片，總算力能達(dá)到 524 EFlops。

它提供了目前已知全球最大的集群總算力，并依托全棧自主可控的技術(shù)，實(shí)現(xiàn)了從芯片到超大規(guī)模集群的完全掌控。但其挑戰(zhàn)也更為巨大：管理一個(gè)由超過(guò) 52 萬(wàn)張芯片組成的系統(tǒng)，其部署復(fù)雜性、運(yùn)維難度以及總功耗都是空前的，建設(shè)和運(yùn)營(yíng)成本極高，目前主要適用于國(guó)家級(jí)或區(qū)域級(jí)的戰(zhàn)略性算力基礎(chǔ)設(shè)施項(xiàng)目。

值得注意的是，在官方發(fā)布的消息中，中科曙光表示 scaleX 萬(wàn)卡超集群部分技術(shù)能力已超越英偉達(dá)在 2027 年產(chǎn)品規(guī)劃中的 NVL576 系統(tǒng)，這是英偉達(dá)在其技術(shù)路線圖中預(yù)告的下一代超大規(guī)模 AI 集群架構(gòu)。

根據(jù)公開(kāi)消息，中國(guó)擁有萬(wàn)卡超集群的企業(yè)和單位主要可以分為四類(lèi)：通信運(yùn)營(yíng)商、互聯(lián)網(wǎng)科技巨頭、AI 獨(dú)角獸企業(yè)以及算力基礎(chǔ)設(shè)施廠商。

作為數(shù)字基礎(chǔ)設(shè)施建設(shè)的主力軍，三大運(yùn)營(yíng)商在全國(guó)核心樞紐節(jié)點(diǎn)建設(shè)了多個(gè)萬(wàn)卡集群，通常服務(wù)于國(guó)家算力網(wǎng)。

中國(guó)移動(dòng)擁有最大規(guī)模的單一運(yùn)營(yíng)商智算集群布局。呼和浩特、哈爾濱、貴陽(yáng)三大智算中心均已投產(chǎn)萬(wàn)卡級(jí)集群。其中，呼和浩特智算中心是全球運(yùn)營(yíng)商最大單體液冷智算中心；中國(guó)電信在上海（臨港）和北京（京津冀）規(guī)劃并投產(chǎn)了萬(wàn)卡級(jí)全液冷智算集群，總算力規(guī)模巨大，服務(wù)于大模型訓(xùn)練；中國(guó)聯(lián)通在長(zhǎng)三角、京津冀等樞紐節(jié)點(diǎn)也完成了萬(wàn)卡集群的布局，主要支持其“元景”大模型及政企客戶(hù)需求。

互聯(lián)網(wǎng)與云服務(wù)巨頭為了訓(xùn)練自家的萬(wàn)億參數(shù)大模型（如文心一言、通義千問(wèn)等），最早開(kāi)始布局萬(wàn)卡集群。

百度早在 2024 年就升級(jí)了百舸 4.0，具備十萬(wàn)卡集群的部署管理能力。近期更是點(diǎn)亮了基于自研昆侖芯三代的萬(wàn)卡集群，并計(jì)劃擴(kuò)建至 3 萬(wàn)卡規(guī)模；阿里云早在 2022 年就啟動(dòng)了“飛天智算”，并在張北、烏蘭察布等地建設(shè)了超級(jí)數(shù)據(jù)中心，具備單集群支撐萬(wàn)卡甚至十萬(wàn)卡規(guī)模的能力，用于訓(xùn)練通義系列大模型；騰訊發(fā)布了星脈 2.0，支持超 10 萬(wàn)卡組網(wǎng)，其混元大模型就是基于自建的萬(wàn)卡集群訓(xùn)練完成的；作為推薦算法和豆包大模型的擁有者，字節(jié)跳動(dòng)擁有極其龐大的 GPU 儲(chǔ)備。其火山引擎推出了萬(wàn)卡集群解決方案，并實(shí)際部署了超大規(guī)模的訓(xùn)練集群。

AI 獨(dú)角獸與垂直領(lǐng)域企業(yè)通常與硬件廠商深度合作，建設(shè)針對(duì)特定模型優(yōu)化的集群。

如科大訊飛的“飛星一號(hào)”。這是全國(guó)首個(gè)基于國(guó)產(chǎn)算力（華為昇騰）訓(xùn)練全民開(kāi)放大模型的萬(wàn)卡算力平臺(tái)，用于訓(xùn)練“訊飛星火”大模型，具有標(biāo)桿意義；商湯科技的商湯AIDC 位于上海臨港。 這是一個(gè)巨型算力裝置，早已達(dá)到萬(wàn)卡級(jí)別，不僅自用，還對(duì)外提供算力服務(wù)（算力出租）。

此外，摩爾線程也于近日在首屆 MUSA 開(kāi)發(fā)者大會(huì)上正式發(fā)布了夸娥萬(wàn)卡智算集群。該集群具備全精度、全功能通用計(jì)算能力，在萬(wàn)卡規(guī)模下實(shí)現(xiàn)高效穩(wěn)定的 AI 訓(xùn)練與推理。

政策方面，《關(guān)于深入實(shí)施“東數(shù)西算”工程加快構(gòu)建全國(guó)一體化算力網(wǎng)的實(shí)施意見(jiàn)》已明確將萬(wàn)卡級(jí)集群確立為國(guó)家算力網(wǎng)的“主干節(jié)點(diǎn)”；工信部《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》劃定了智能算力占比 35% 的硬指標(biāo)，并明確要求推動(dòng)“集約化發(fā)展”。

與此同時(shí)，北京、上海、深圳等地掀起了算力高地爭(zhēng)奪戰(zhàn)。北京不僅自己建，還通過(guò)政府采購(gòu)形式，將私有萬(wàn)卡集群的算力納入公共平臺(tái)統(tǒng)一調(diào)度；上海明確支持上海儀電等國(guó)企部署萬(wàn)卡智算集群，對(duì)租用智算集群進(jìn)行大模型研發(fā)的企業(yè)，給予最高 10% 的租金補(bǔ)貼；深圳提出打造中國(guó)算網(wǎng)城市標(biāo)桿，要求市內(nèi)數(shù)據(jù)中心間時(shí)延不高于 1ms。這對(duì)集群的網(wǎng)絡(luò)互聯(lián)架構(gòu)提出了極高要求。

1.http://www.szass.com/skkx/skjx/content/post_1119283.html

2.https://www.reddit.com/r/HPC/comments/1jl75dj/so_nvidia_is_planning_on_building_hardware_that/

3.https://www.sugon.com/