AI新云（也稱GPU云、智算云）是全球 AI 基礎(chǔ)設(shè)施當(dāng)下變革的注腳。

過去一年，生成式AI及大語言模型集成企業(yè)應(yīng)用加速生長(zhǎng)，市場(chǎng)對(duì)訓(xùn)練 AI 模型的 GPU 專用計(jì)算需求激增。為滿足該需求，GPU專用云服務(wù)平臺(tái)不斷涌現(xiàn)，這些云服務(wù)平臺(tái)被稱為 AI 新云（ NeoCloud）。

△九章云極CEO方磊 受訪者供圖

與提供廣泛通用服務(wù)的傳統(tǒng)通算云服務(wù)商不同，NeoCloud 專注為 AI 工作負(fù)載提供高性能基礎(chǔ)架構(gòu)。據(jù)Business Research預(yù)測(cè)，全球GPU專用云市場(chǎng)規(guī)模將由2024年的31.7億美元快速增長(zhǎng)至2033年472.4億美元，增長(zhǎng)近15倍，復(fù)合增長(zhǎng)率約為35%。

△數(shù)據(jù)來源：Business Research

為在這一藍(lán)海中掌握先發(fā)優(yōu)勢(shì)，海內(nèi)外企業(yè)皆摩拳擦掌。

今年3月，被業(yè)內(nèi)稱作“英偉達(dá)親兒子”的AI基礎(chǔ)設(shè)施企業(yè)CoreWeave上市，這家依托英偉達(dá)GPU資源沖擊新云市場(chǎng)的創(chuàng)企，市值在IPO后的兩個(gè)月從230億美元飆升至720億美元。與CoreWeave頗為類似，另一家海外AI基礎(chǔ)設(shè)施企業(yè)Crusoe也憑借其掌握的GPU資源成功轉(zhuǎn)型云服務(wù)商。

在這場(chǎng)AI算力淘金熱中，中國同樣參與者眾多，其中不乏云服務(wù)商、利用云服務(wù)拓展業(yè)務(wù)的AI基礎(chǔ)設(shè)施企業(yè)。

今年第二季度，這些沖擊AI新云計(jì)算的公司先后發(fā)布了自己的AI基礎(chǔ)設(shè)施服務(wù)。如CoreWeave推出基于英偉達(dá)GB200的全新架構(gòu)；阿里云基于 PAI-DLC 云原生分布式深度學(xué)習(xí)訓(xùn)練平臺(tái)推出了 FlashMoE，九章云極從AI計(jì)算底層革新出發(fā)，推出了基于Serverless+RL強(qiáng)化學(xué)習(xí)技術(shù)架構(gòu)的九章智算云Alaya NeW Cloud。

“相比海外企業(yè)以資本驅(qū)動(dòng)實(shí)現(xiàn)規(guī)模化，中國AI新云更關(guān)注迭代速度、總體擁有成本等務(wù)實(shí)客戶價(jià)值?！苯?，九章云極CEO方磊在接受時(shí)代周報(bào)記者專訪時(shí)表示，資本市場(chǎng)對(duì)以CoreWeave為代表的資源型企業(yè)的考察重點(diǎn)并非技術(shù)，而是其憑借賣資源打下的市場(chǎng)規(guī)模。相比而言，中國企業(yè)更關(guān)注技術(shù)本身的“用處”——業(yè)務(wù)范圍既涵蓋售賣資源，也包括應(yīng)用在各種場(chǎng)景中的AI工具。他認(rèn)為，這樣的模式有助于維系長(zhǎng)尾客戶，而長(zhǎng)尾客戶往往是企業(yè)穩(wěn)健發(fā)展的關(guān)鍵要素。

九章云極DataCanvas于2013年成立，是國內(nèi)AI基礎(chǔ)設(shè)施的頭部企業(yè)。此前，九章云極提出“一度算力包”概念，希望解決行業(yè)中算力結(jié)構(gòu)性錯(cuò)配、服務(wù)非標(biāo)準(zhǔn)化、用戶需求難以預(yù)測(cè)等問題。

方磊是清華電子工程系畢業(yè)的博士，雖技術(shù)出身，但對(duì)商業(yè)的見解十分“接地氣”。他表示，商業(yè)的本質(zhì)是“賣貨”，在交易與合作中，要理解貨物本身的價(jià)值，也要清楚其邊界，同時(shí)看到客戶企業(yè)的能動(dòng)性和創(chuàng)造力。

“涉足AI新云業(yè)務(wù)的公司把所能提供的價(jià)值點(diǎn)押注在算力層而非工具鏈上，更有利于公司行穩(wěn)致遠(yuǎn)。”方磊向時(shí)代周報(bào)記者解釋道，GPU一旦“云化”，其規(guī)模和技術(shù)門檻會(huì)迅速提升。規(guī)模將會(huì)和電力一樣巨大。就像微軟從操作系統(tǒng)的軟件公司涉足Office，GPU云企業(yè)也會(huì)克服算力、算法變遷帶來的難題，在多元的生態(tài)位上找到自己的角色。

算力：CPU云向GPU云的歷史性遷移

市場(chǎng)為什么會(huì)大力呼喚GPU專用云？

方磊表示， 傳統(tǒng)云架構(gòu)的局限性逐漸凸顯。傳統(tǒng)CPU 云基于虛擬化技術(shù)的資源切片模式，主要針對(duì)互聯(lián)網(wǎng)時(shí)代帶寬密集型應(yīng)用設(shè)計(jì)。但 AI 工作負(fù)載以計(jì)算密集型處理為核心，需要大規(guī)模并行計(jì)算能力，這與CPU的串行處理特性形成了根本性矛盾。

簡(jiǎn)而言之，CPU的技術(shù)架構(gòu)在訓(xùn)練和推理大型AI模型方面不夠高效。那么，AI時(shí)代需要怎樣的硬件設(shè)施？

方磊向時(shí)代周報(bào)記者拆解道，硬件方面，GPU性能更強(qiáng)，資源利用方式更“聰明”。如英偉達(dá)最新的 H200 GPU 內(nèi)存帶寬達(dá) 4.8TB/s，約為傳統(tǒng) CPU 系統(tǒng)（ 50GB/s） 的近百倍，在深度學(xué)習(xí)訓(xùn)練中，性能可提升 10-100 倍。同時(shí)，Multi-Instance GPU（MIG）技術(shù)能將單個(gè) GPU 分割為最多7 個(gè)獨(dú)立實(shí)例，即不同“GPU分身”可以同時(shí)工作，互不干擾，便于下游企業(yè)更靈活地分配計(jì)算資源，實(shí)現(xiàn) GPU 的精細(xì)化管理。

硬件迭代如同給AI研發(fā)裝上了"渦輪增壓"，在帶來高效計(jì)算的同時(shí)，也為業(yè)內(nèi)玩家的商業(yè)模式帶來與傳統(tǒng)巨頭同臺(tái)競(jìng)技的底氣。時(shí)代周報(bào)記者注意到，在傳統(tǒng) CPU 通算云向 GPU 智算云的架構(gòu)遷移的過程中，傳統(tǒng)云巨頭面臨了新勢(shì)力的挑戰(zhàn)——AWS、Google Cloud、Azure等企業(yè)雖推出 GPU 實(shí)例，但在定價(jià)和性能優(yōu)化上未能即時(shí)適應(yīng)新的市場(chǎng)需求。

“一個(gè)數(shù)據(jù)中心，如果同時(shí)兼顧C(jī)PU和GPU的需求，就會(huì)變成‘四不像’。”方磊解釋稱，一方面，如果數(shù)據(jù)中心僅運(yùn)行GPU，要比同時(shí)運(yùn)行GPU和CPU的成本低廉。據(jù)市場(chǎng)信息，如亞馬遜的GPU租賃價(jià)格為12美元/卡時(shí)，CoreWeave的價(jià)格則為6美元/卡時(shí)；另一方面，假如一個(gè)計(jì)算中心不是單純?yōu)镚PU高度優(yōu)化的，也會(huì)影響GPU的性能?！?/p>

相較傳統(tǒng)云廠商“大象難起舞”，專用GPU云企業(yè)的成本與商業(yè)模式更顯“普適性”。如CoreWeave 的 GPU 實(shí)例定價(jià)，相比傳統(tǒng)云提供商有 50%-80% 的成本優(yōu)勢(shì)；九章云極智算云Alaya NeW Cloud的定價(jià)策略則拋去了傳統(tǒng)裸金屬租賃方式，提出“一度算力”按量計(jì)費(fèi)模式，降低算力使用門檻，提升算力使用的靈活性。

從 CPU 云到 GPU 云的遷移，不僅是技術(shù)升級(jí)，更是計(jì)算范式從通用向?qū)Ｓ玫母巨D(zhuǎn)變，這種轉(zhuǎn)變正重塑著整個(gè)云計(jì)算產(chǎn)業(yè)的競(jìng)爭(zhēng)格局。

算法：深度學(xué)習(xí)向強(qiáng)化學(xué)習(xí)躍遷

算法層面的變革也在影響底層算力的躍遷。當(dāng)前，AI 算法正從數(shù)據(jù)驅(qū)動(dòng)的深度學(xué)習(xí)向經(jīng)驗(yàn)學(xué)習(xí)轉(zhuǎn)變，這一新的模型訓(xùn)練方式，對(duì)GPU專用云的效率提出了新要求。

“用于訓(xùn)練大模型的高質(zhì)量數(shù)據(jù)量接近天花板，難再有指數(shù)級(jí)增長(zhǎng)。這一限制促使研究者轉(zhuǎn)向強(qiáng)化學(xué)習(xí)，通過模型與環(huán)境交互生成訓(xùn)練數(shù)據(jù)，以經(jīng)驗(yàn)反饋突破數(shù)據(jù)稀缺瓶頸，增強(qiáng)模型的推理能力?！狈嚼诟嬖V時(shí)代周報(bào)記者，算法范式的變化會(huì)產(chǎn)生新的算力缺口。原因在于，強(qiáng)化學(xué)習(xí)的多模型架構(gòu)大幅增加了訓(xùn)練資源需求。以 70B 參數(shù)模型為例，RLHF 階段約需 48 個(gè) A100 GPU 同時(shí)工作，計(jì)算需求比傳統(tǒng)深度學(xué)習(xí)增加 1-2 個(gè)數(shù)量級(jí)。

"這一數(shù)據(jù)的判斷與英偉達(dá)計(jì)算芯片迭代的實(shí)際節(jié)奏高度吻合——與‘B系列’芯片相比，其‘R系列’芯片的推理性能實(shí)現(xiàn)了十倍乃至百倍的提高。”方磊補(bǔ)充道。

如何提升GPU專用云的效率以應(yīng)對(duì)算法的變革？不妨從云計(jì)算的發(fā)展史中汲取經(jīng)驗(yàn)。

近20年，云計(jì)算產(chǎn)業(yè)的發(fā)展出現(xiàn)了三個(gè)分水嶺。一是以虛擬化為主要技術(shù)支撐的云計(jì)算正式登上歷史舞臺(tái)，應(yīng)對(duì)高速擴(kuò)張的移動(dòng)互聯(lián)網(wǎng)以及流媒體萌芽所帶來的爆炸式計(jì)算需求；二是池化技術(shù)的變革，通過規(guī)?；恼{(diào)度、編排，形成了超大規(guī)模的計(jì)算和存儲(chǔ)資源池，繼而形成亞馬遜云、微軟云、阿里云三強(qiáng)鼎立的格局；三是阿里云創(chuàng)新性地推出CIPU（云基礎(chǔ)設(shè)施處理器）架構(gòu)方式，該架構(gòu)不僅能在數(shù)據(jù)中心內(nèi)發(fā)揮效用，也能和系統(tǒng)內(nèi)的軟硬件深度適配，當(dāng)計(jì)算資源、存儲(chǔ)資源、網(wǎng)絡(luò)資源接入CIPU后，就會(huì)被云化為虛擬算力進(jìn)行調(diào)度編排，兼顧零損耗與高性能。

前兩次浪潮，使得CPU為核心的傳統(tǒng)X86架構(gòu)替代了大型機(jī)、小型機(jī)，滿足了當(dāng)時(shí)企業(yè)業(yè)務(wù)擴(kuò)展帶來的算力彈性需求，但他們的本質(zhì)都是通過軟件的優(yōu)化，將越來越多的計(jì)算節(jié)點(diǎn)連接組合對(duì)外提供服務(wù)。時(shí)至第三次變革，軟件的迭代已不足以應(yīng)對(duì)當(dāng)時(shí)的市場(chǎng)需求，架構(gòu)的創(chuàng)新成為云廠商換道超車的新思路。

同樣地，于GPU專用云而言，“軟硬一體化”的創(chuàng)新架構(gòu)是應(yīng)對(duì)當(dāng)前算法變化的抓手。方磊告訴時(shí)代周報(bào)記者，九章智算云從底層技術(shù)架構(gòu)出發(fā)，推動(dòng)由虛擬技術(shù)向Serverless（無服務(wù)）+RL（Reinforcement Learning，強(qiáng)化學(xué)習(xí)）為主導(dǎo)的架構(gòu)演變，支撐AI部署從“配置機(jī)器”轉(zhuǎn)向“提交任務(wù)”，從而提高高密度算力需求下的GPU資源的利用率。

Serverless+RL的核心是將傳統(tǒng)后端服務(wù)拆解為更細(xì)粒度的函數(shù)或服務(wù)單元，由云平臺(tái)自動(dòng)管理資源、運(yùn)維和擴(kuò)展。就如解決飽腹問題，需求方原本需要建廚房、買食材甚至雇廚師，而現(xiàn)在只需要在外賣平臺(tái)下單即可。

“在CPU云時(shí)代，虛擬化技術(shù)通過切片資源讓用戶使用；GPU云時(shí)代，Serverless技術(shù)可以讓用戶更聚焦應(yīng)用而非花太多代價(jià)去關(guān)注底層優(yōu)化。讓GPU云的提供者更關(guān)注如何做好AI優(yōu)化、高密集AI計(jì)算等，讓企業(yè)低成本實(shí)現(xiàn)他們的目標(biāo)?！?/p>

“與自動(dòng)駕駛的AI訓(xùn)練系統(tǒng)類似，得益于Serverless 架構(gòu)，九章云極AI新云平臺(tái)DataCanvas Alaya NeW Cloud能自動(dòng)完成環(huán)境配置、策略加載與任務(wù)監(jiān)控，在強(qiáng)化學(xué)習(xí)訓(xùn)練中的端到端性能提升5倍。同時(shí)，Alaya-UI智能體采樣速率提升5-10倍，GPU利用率提升2倍。”方磊認(rèn)為，Serverless會(huì)成為GPU云的主要技術(shù)趨勢(shì)。

△九章云極智能計(jì)算論壇 受訪者供圖

中美AI新云分野

在AI云服務(wù)的競(jìng)逐中，中美兩國走出了截然不同的發(fā)展路徑。

美國AI云市場(chǎng)呈現(xiàn)出典型的資本集聚特征。CoreWeave通過與英偉達(dá)的深度合作，憑借數(shù)百億美元的基礎(chǔ)設(shè)施投入，構(gòu)建起50-80%的成本優(yōu)勢(shì)；同樣采用資本密集策略的Lambda Labs，則以每小時(shí)2.49美元的H100 GPU租賃價(jià)格快速占領(lǐng)學(xué)術(shù)市場(chǎng)。

不過，上述兩家企業(yè)的客戶集中度較高，如CoreWeave超過60%的收入來自微軟單一大客戶。這種商業(yè)結(jié)構(gòu)雖能保證短期收入快速增長(zhǎng)，卻也暗藏一定業(yè)務(wù)風(fēng)險(xiǎn)。

中國企業(yè)則傾向于通過技術(shù)破局、圍繞客戶需求提供服務(wù)方案尋求增長(zhǎng)。“我們優(yōu)化后的GPU利用率可以超過95%，這個(gè)數(shù)字比很多客戶自己優(yōu)化的結(jié)果還要高，而行業(yè)平均GPU利用率通常為70%左右?！?/p>

此外，中美AI云企業(yè)的市場(chǎng)定位也存在差異。美國的資本驅(qū)動(dòng)模式聚焦大型企業(yè)客戶，而中國的技術(shù)驅(qū)動(dòng)模式則將目光投向長(zhǎng)尾市場(chǎng)。在生態(tài)建設(shè)理念方面，前者追求規(guī)模與效率，后者更強(qiáng)調(diào)普惠與可持續(xù)發(fā)展。

方磊認(rèn)為，數(shù)百萬企業(yè)、數(shù)千萬個(gè)人開發(fā)者，都亟需彈性且高性價(jià)比的GPU云服務(wù)。他坦言，目前中國智能算力的短缺主要呈現(xiàn)結(jié)構(gòu)性錯(cuò)配的特征?！叭缒硰S商在某一地區(qū)設(shè)立了萬卡集群，但當(dāng)?shù)氐闹悄芩懔π枨蠓娇赡苄枰谕獾貙ふ曳?wù)器租用。目前公開市場(chǎng)上，大量AI計(jì)算芯片要么掌握在頭部互聯(lián)網(wǎng)廠商手中，要么以服務(wù)器（裸金屬）的形式出租，市場(chǎng)化的、面向大眾的、普惠的智能算力非常稀缺?！?/p>

談及發(fā)展目標(biāo)，方磊表示，九章云極希望成為中國NeoCloud的定義者，"此前我們定義了'一度算力'，未來希望探索出具備中國特色的AIDC運(yùn)營(yíng)模式”。他稱，DeepSeek-R1的問世已表明，低成本投入能博取優(yōu)質(zhì)的模型能力。這也意味著，能否為數(shù)千萬開發(fā)者提供普惠算力服務(wù)，將成為決定AI云企業(yè)競(jìng)爭(zhēng)力的重要考核維度。

撰文丨申謹(jǐn)睿

編輯丨宋然

版式丨陳溪清

轉(zhuǎn)載|商務(wù)合作

后臺(tái)留言或加微信：yesornolab

看官覺得不錯(cuò)，點(diǎn)贊點(diǎn)在看給小編加一杯奶茶