微軟（Microsoft） 推出了 Maia 200，這是其用于驅(qū)動(dòng) AI 工作負(fù)載的自研芯片的最新迭代版本。Maia 200 擁有一些令人印象深刻的數(shù)據(jù)，包括 10 petaflops 的 FP4 算力和 216GB 的HBM3，這讓 Microsoft 及其 Azure 云在 AI Token 生成方面獲得了立竿見影的提升。更重要的是，這給了 Microsoft在自研 AI 加速器方面超越 AWS 和 Google Cloud 的底氣。

Microsoft 表示，Maia 200 是其首款專門解決 AI 性能挑戰(zhàn)的芯片。除了原始的數(shù)字運(yùn)算能力，AI 推理還需要大量高速內(nèi)存，以及內(nèi)存和處理器之間的高速鏈接。Maia 200 似乎在這兩個(gè)方面都有所斬獲。

Maia 200 采用臺(tái)積電 3nm （納米）工藝開發(fā)，功耗設(shè)計(jì)（TDP）為 750 瓦。Maia 200 的核心包含兩個(gè)執(zhí)行引擎：一個(gè)是用于高吞吐量矩陣乘法和卷積的 Tile Tensor Unit（TTU：Tile 張量處理單元），支持 FP8、FP6和 FP4 精度；另一個(gè)是用于 SIMD（單指令多數(shù)據(jù)）指令的 Tile Vector Processor（TVP：Tile 向量處理器），提供 FP8、BF16和 FP32 處理能力。TTU 和 TVP 執(zhí)行引擎連接到 216GB 的高帶寬內(nèi)存（HBM3）以及 272MB 的片上TSRAM（Tile 靜態(tài)隨機(jī)存取存儲(chǔ)器）。

Maia 200 配備了一個(gè)直接內(nèi)存訪問（DMA）子系統(tǒng)，用于在 TSRAM 和TTU 之間保持?jǐn)?shù)據(jù)流動(dòng)，以及一個(gè)小的 Tile Control Processor（TCP：Tile 控制處理器）來協(xié)調(diào)TTU 和 DMA 之間的工作。

根據(jù) Azure 工程博客中 Saurabh Dighe（系統(tǒng)與架構(gòu)副總裁）和 Artour Levin（AI 硅工程副總裁）撰寫的 Maia 200 深度解析，Maia 200 架構(gòu)的一個(gè)決定性特征是其豐富的內(nèi)存和內(nèi)存層次結(jié)構(gòu)。“這種巨大的片上內(nèi)存資源支持廣泛的各種低延遲、高帶寬的數(shù)據(jù)管理策略?！彼麄儗懙馈！癈SRAM 和 TSRAM都是完全軟件管理的，允許開發(fā)者——或編譯器/運(yùn)行時(shí)——確定性地放置和固定數(shù)據(jù)，以精確控制數(shù)據(jù)的局部性和移動(dòng)?！?/p>

Maia 200 芯片配備了片上以太網(wǎng)網(wǎng)絡(luò)接口卡（NIC），與相鄰芯片之間提供每秒 2.8 TB 的雙向帶寬。據(jù) Dighe 和 Levin 介紹，Maia 200 采用了“兩層、縱向擴(kuò)展”拓?fù)浣Y(jié)構(gòu)，結(jié)合了基于以太網(wǎng)的縱向擴(kuò)展互連，可在包含多達(dá) 6,144 個(gè)加速器的集群中提供高帶寬、低延遲通信。

Microsoft 表示，它可以在一個(gè)“兩層、縱向擴(kuò)展”集群拓?fù)渲羞B接多達(dá)6,144 個(gè) Maia 200 加速器。

據(jù) Dighe 和Levin 稱，Maia 200 的 Tile 級(jí)處理能力，結(jié)合 DMA 和片上網(wǎng)絡(luò)能力，使芯片能夠達(dá)到當(dāng)今大規(guī)模 AI 工作負(fù)載所需的廣泛規(guī)模?！癉MA 引擎專為多通道、高帶寬傳輸而設(shè)計(jì)，支持 1D/2D/3D 步進(jìn)移動(dòng)，使常見的 ML 張量布局能夠在片上 SRAM、HBM和外部接口之間高效移動(dòng)，同時(shí)實(shí)現(xiàn)數(shù)據(jù)移動(dòng)與計(jì)算的重疊，”他們寫道?！巴瑫r(shí)，NoC 在集群和內(nèi)存子系統(tǒng)之間提供可擴(kuò)展、低延遲的通信，并支持單播和多播傳輸——這是分發(fā)張量塊和協(xié)調(diào)并行執(zhí)行的重要能力。”

距離 Microsoft 推出 Maia 100——其首款專門用于 AI 推理的第一代 AI 加速器——?jiǎng)倓傔^去兩年多。Maia 100 采用臺(tái)積電 5 納米工藝開發(fā)，提供每秒 1.8 TB 的雙向內(nèi)存帶寬和 64GB SRAM。它提供 3.2 petaflops 的 MXFP4 性能和 1.6 petaflops 的 FP8 或 MXInt8 性能，大約是Maia 200 的三分之一。

Maia 200 的能力與其他頂級(jí) AI 加速器相當(dāng)，使其成為“AI 推理動(dòng)力源”，Microsoft 云和 AI 執(zhí)行副總裁 Scott Guthrie 表示：“實(shí)際上，Maia 200 可以輕松運(yùn)行當(dāng)今最大的模型，并為未來更大的模型留出充足的空間。”“Maia 200 是來自任何超大規(guī)模云服務(wù)商的最強(qiáng)大的第一方硅芯片，其 FP4 性能是第三代 Amazon Trainium 的三倍，F(xiàn)P8 性能高于 Google 第七代 TPU?！彼€補(bǔ)充說：“Maia 200 也是 Microsoft 部署過的最高效的推理系統(tǒng)，與目前我們機(jī)群中的最新代硬件相比，性能提升了 30%?！?/p>

Maia 200 可在風(fēng)冷和水冷環(huán)境中運(yùn)行。它的設(shè)計(jì)旨在與 Azure 的第三方 GPU 機(jī)群協(xié)同工作，并遵守機(jī)架、電源和機(jī)械架構(gòu)的標(biāo)準(zhǔn)。它集成到 Azure 的原生控制平面中，Microsoft 這使得部署和服務(wù)變得輕而易舉，同時(shí)與同一數(shù)據(jù)中心空間內(nèi)的其他 AI 加速器和諧共存。

Microsoft 計(jì)劃使用其 Maia 200 芯片運(yùn)行各種模型，包括最新的 OpenAI GPT-5.2 模型。它還將用于生成合成數(shù)據(jù)，供 AI 模型用于訓(xùn)練目的。新芯片目前部署在 Microsoft 位于愛荷華州得梅因附近的 Central 數(shù)據(jù)中心區(qū)域。它接下來將部署在亞利桑那州鳳凰城附近的 US West 3 數(shù)據(jù)中心區(qū)域，未來還會(huì)有更多區(qū)域跟進(jìn)。