英偉達(dá)近期在 SC24 超算大會上震撼發(fā)布兩款全新 AI 硬件：H200 NVL PCIe GPU 和 GB200 NVL4 超級芯片。

英偉達(dá)打造的 H200 NVL PCIe GPU，是針對當(dāng)前約七成企業(yè)機(jī)架電力供應(yīng)不足 20kW 且采用空氣冷卻的現(xiàn)狀，其 AI 計算卡專為低功耗環(huán)境設(shè)計，最高 TDP 功耗從 H200 SXM 的 700W 降低至 600W，盡管算力有所調(diào)整，但 HBM 內(nèi)存容量與帶寬仍保持在 141GB 與 4.8TB/s 的高水準(zhǔn)，更好滿足企業(yè)對高效能與低功耗的雙重需求。

此前，英偉達(dá)也推出過針對有大型需求的企業(yè)提供服務(wù)器成品，提供完整的服務(wù)器解決方案。

例如GB200 NVL72服務(wù)器，提供了 36 個 CPU 和 72 個Blackwell構(gòu)架 GPU，并完善提供一體水冷散熱方案，實現(xiàn) 720 PFlops 的 AI 訓(xùn)練性能或 1440 PFlops 的推理性能。

H200 NVL PCIe GPU 還支持雙路或四路 900GB/s 的 NVLink 橋接器互聯(lián)，進(jìn)一步提升了數(shù)據(jù)傳輸效率。

性能表現(xiàn)方面，H200 NVL GPU 相較于前代 H100 NVL，內(nèi)存容量提升 1.5 倍，帶寬提升 1.2 倍，實現(xiàn) 1.7 倍的 AI推 理性能提升。

在高性能計算（HPC）應(yīng)用中，其性能更是提升 30%，為科研、氣候模擬等領(lǐng)域提供了更為強(qiáng)大的計算能力。

與此同時，英偉達(dá)還推出了面向單服務(wù)器解決方案的 GB200 NVL4 超級芯片。這款超級芯片集成了 2 個 Grace CPU 和 4 個 Blackwell GPU，形成了強(qiáng)大的計算模塊，HBM 內(nèi)存池容量達(dá)到了 1.3TB，相當(dāng)于兩組 GB200 Grace Blackwell 超級芯片的總和。當(dāng)然了，整體功耗為 5.4kW。相較于上代 GH200 NVL4 系統(tǒng)，新的 GB200 NVL4 在模擬性能、AI 訓(xùn)練性能和 AI 推理性能上分別實現(xiàn)了 2.2 倍、1.8 倍和 1.8 倍的提升。

GB200 NVL4 超級芯片的推出，可以說是英偉達(dá)繼續(xù)加碼 AI 計算領(lǐng)域的又一重要創(chuàng)新，更將為用戶帶來更為高效、便捷的計算體驗。

根據(jù)曝光的消息匯總，GB200 NVL4 超級芯片預(yù)計將于 2025 年下半年正式上市。