編輯 | 澤南

AI 時(shí)代堆 GPU，原來是這么個(gè)堆法？

馬斯克旗下的 xAI 目前 GPU 資源利用率只有大概 11%。相關(guān)報(bào)告指出，其 AI 軟件棧的優(yōu)化效果不盡如人意。近日，《The Information》的報(bào)道引發(fā)了人們的關(guān)注。

目前，xAI 在其 Memphis 和 Colossus 數(shù)據(jù)中心集群中運(yùn)營(yíng)著約 55 萬塊英偉達(dá) GPU，包括 H100 和 H200 兩種型號(hào)，其中部分設(shè)備采用了液冷散熱配置。盡管這些 GPU 屬于上一代產(chǎn)品（早于最新的 Blackwell 系列），但其規(guī)模已經(jīng)令人嘆為觀止。

擁有如此龐大的 GPU 存量，xAI 的模型算力利用率（MFU，Model FLOPs Utilization）卻只有 11%。打個(gè)不恰當(dāng)?shù)谋扔�，�?xAI 服務(wù)器中已安裝的這 50 萬塊 GPU 中，實(shí)際可用的算力僅相當(dāng)于約 6 萬塊 GPU 的水平。究竟是什么原因?qū)е铝巳绱说偷男剩?/p>

首先，對(duì)于較小規(guī)模的部署環(huán)境（例如 1000-10000 塊 GPU）而言，多節(jié)點(diǎn)之間的協(xié)調(diào)計(jì)算通常不成問題。但隨著服務(wù)器規(guī)模的不斷擴(kuò)大，當(dāng)需要集成數(shù)十萬顆 GPU 時(shí)，設(shè)備的空閑時(shí)間便會(huì)迅速累積，導(dǎo)致整體利用率急劇下滑。由此引發(fā)的軟件棧內(nèi)部的一系列不一致性問題，目前正在 xAI 的實(shí)際運(yùn)行中暴露無遺。

在超級(jí)集群中，GPU 芯片本身的計(jì)算速度相對(duì)很快，瓶頸在于高帶寬內(nèi)存（HBM）的數(shù)據(jù)讀寫速度和成千上萬臺(tái)服務(wù)器之間網(wǎng)絡(luò)傳輸?shù)耐ㄐ砰_銷。只要數(shù)據(jù)傳輸出現(xiàn)微小的延遲或網(wǎng)絡(luò)擁堵，整個(gè)集群的 GPU 就會(huì)被迫 “原地掛機(jī)” 等待數(shù)據(jù)加載。

另一方面，AI 模型的訓(xùn)練通常是間歇性的。GPU 在實(shí)際計(jì)算時(shí)滿載運(yùn)轉(zhuǎn)，但在研究人員分析訓(xùn)練結(jié)果、調(diào)整參數(shù)或處理數(shù)據(jù)管道時(shí)，大量設(shè)備就會(huì)處于閑置（Idle）狀態(tài)。

雖然 11% 是一個(gè)顯然偏低的數(shù)字，但 The Information 的報(bào)道也揭示了 AI 領(lǐng)域的一些行業(yè)潛規(guī)則：算力浪費(fèi)是普遍的現(xiàn)象，有些大廠的研究人員為了避免被管理層批評(píng)，或者害怕閑置的 GPU 配額被其他團(tuán)隊(duì)搶走，甚至?xí)室庵貜?fù)運(yùn)行一些無意義的訓(xùn)練任務(wù)來 “刷高” 利用率數(shù)據(jù)。

該說不說，這么做也是為了保住團(tuán)隊(duì)自己的 GPU 配額。

當(dāng)然，這并非 xAI 獨(dú)有的難題，它實(shí)際上是整個(gè) AI 行業(yè)普遍存在的一種結(jié)構(gòu)性問題 ——AI 基礎(chǔ)設(shè)施要在如此龐大的規(guī)模下實(shí)現(xiàn)高效運(yùn)行，是一項(xiàng)極其艱巨的挑戰(zhàn)。

運(yùn)行 AI 云基礎(chǔ)設(shè)施所需的優(yōu)化技能涵蓋數(shù)據(jù)、算法、模型、計(jì)算、內(nèi)核、交互（人類 - AI - 世界、智能體之間），以及全局優(yōu)化，在工程上難度極高。

一些科技巨頭著重優(yōu)化了大規(guī)�；A(chǔ)設(shè)施堆棧，已經(jīng)能夠?qū)崿F(xiàn)超過 40% 的利用率。Meta 和谷歌便是此類典范，其 GPU 的利用率分別高達(dá) 43% 和 46%。

xAI 遇到的困境證明了在當(dāng)前的 AI 軍備競(jìng)賽中，“買到 GPU” 只是第一步，用好才是關(guān)鍵。硬件規(guī)模已經(jīng)超出了現(xiàn)有軟件架構(gòu)的調(diào)度能力。

不過，xAI 已在著手解決這一問題，并設(shè)定了利用率達(dá)到 50% 的目標(biāo)。盡管目前尚無確切的時(shí)間表，但其核心改進(jìn)將聚焦于基礎(chǔ)設(shè)施與軟件堆棧的優(yōu)化。隨著未來工作負(fù)載逐步遷移至那些專為驅(qū)動(dòng) “智能體 AI”（Agentic AI）需求而設(shè)計(jì)的硬件平臺(tái)之上，xAI 極有可能將其龐大的 GPU 集群對(duì)外提供租賃服務(wù)。

馬斯克也在尋求轉(zhuǎn)變，押注于自研算力的 “TeraFab” 項(xiàng)目：一方面，他正在推動(dòng)多款自研芯片，將其納入 xAI 的 “AI 芯片家族” 之中；另一方面，馬斯克也希望借助英特爾的 14A 制程技術(shù)，為未來的 xAI、SpaceX 及其它相關(guān)業(yè)務(wù)打造尖端解決方案。

xAI 的困境提醒了所有追趕者：AI 競(jìng)賽的下半場(chǎng)，拼的可能不再是誰(shuí)能買到更多顯卡。

參考內(nèi)容：

https://www.theinformation.com/newsletters/ai-agenda/xai-shows-hard-use-lot-gpus