亞馬遜云科技（AWS）將 NVIDIA NVLink Fusion 集成到其定制芯片中，包括新一代 Tranium4 芯片、Graviton 和 AWS Nitro System。

在 AWS re:Invent 上，NVIDIA 和 AWS 擴(kuò)展了戰(zhàn)略合作，在互連技術(shù)、云基礎(chǔ)設(shè)施、開放模型和物理 AI 方面實現(xiàn)了新的技術(shù)集成。

“GPU 計算需求飛速增長——更多的計算使 AI 變得更智能，更智能的 AI 推動了更廣泛的應(yīng)用，而更廣泛的應(yīng)用創(chuàng)造了對更多計算的需求。AI 的良性循環(huán)已經(jīng)到來，”NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示?！半S著 NVIDIA NVLink Fusion 應(yīng)用于 AWS Trainium4，我們正在將縱向擴(kuò)展架構(gòu)與 AWS 的定制芯片相結(jié)合，以打造新一代加速平臺。NVIDIA 和 AWS 正攜手為 AI 工業(yè)革命構(gòu)建計算網(wǎng)絡(luò)架構(gòu)，為每個國家地區(qū)的每家企業(yè)帶來先進(jìn)的 AI 技術(shù)，并加速全球智能化進(jìn)程?！?/p>

• 規(guī)模與主權(quán)的融合：AWS 已通過 NVIDIA Blackwell 架構(gòu)擴(kuò)展其加速計算產(chǎn)品組合，使客戶能夠立即使用業(yè)界領(lǐng)先的 GPU 進(jìn)行訓(xùn)練和推理。
• NVIDIA Nemotron 與 Amazon Bedrock 的集成擴(kuò)展了軟件優(yōu)化：除了硬件之外，此次合作還擴(kuò)展了 NVIDIA 軟件堆棧與 AWS AI 生態(tài)系統(tǒng)的集成。NVIDIA Nemotron 開放模型現(xiàn)已集成至 Amazon Bedrock，使客戶能夠以生產(chǎn)規(guī)模構(gòu)建生成式 AI 應(yīng)用和智能體。開發(fā)者可以使用 Nemotron Nano 2 和 Nemotron Nano 2 VL 構(gòu)建專用的代理式 AI 應(yīng)用，高效、準(zhǔn)確地處理文本、代碼、圖像和視頻。
• AWS 上的 NVIDIA 軟件可簡化開發(fā)者體驗：NVIDIA 和 AWS 還在軟件層進(jìn)行協(xié)同開發(fā)，以加速每個企業(yè)的數(shù)據(jù)主干。Amazon OpenSearch Service 現(xiàn)在為向量索引構(gòu)建提供無服務(wù)器 GPU 加速 NVIDIA cuVS，一個用于 GPU 加速向量搜索和數(shù)據(jù)聚類的開源庫。這一里程碑標(biāo)志著使用 GPU 進(jìn)行非結(jié)構(gòu)化數(shù)據(jù)處理的根本性轉(zhuǎn)變，早期采用者僅以四分之一的成本就將向量索引速度提升至原來的 10 倍。
• 借助 AWS 加速物理 AI：NVIDIA Cosmos 世界基礎(chǔ)模型（WFM）現(xiàn)已推出 Amazon EKS 上的 NVIDIA NIM 微服務(wù)，從而實現(xiàn)實時機(jī)器人控制和仿真工作負(fù)載具有無縫可靠性和云原生效率。適用于基于批處理的任務(wù)和離線工作負(fù)載，例如大規(guī)模合成數(shù)據(jù)生成 Cosmos WFM 也可作為容器在 AWS Batch 上使用。
• 持續(xù)協(xié)作：憑借多年的持續(xù)合作，NVIDIA 贏得了 AWS 全球生成式 AI 基礎(chǔ)設(shè)施和數(shù)據(jù)合作伙伴年度大獎，該獎項旨在表彰具備生成式 AI 能力的優(yōu)秀技術(shù)合作伙伴，這些能力支持向量嵌入、數(shù)據(jù)存儲和管理，或生成多種類型和格式的合成數(shù)據(jù)。

以上為摘要內(nèi)容，點擊鏈接閱讀完整內(nèi)容：NVIDIA 和 AWS 擴(kuò)展全棧合作伙伴關(guān)系，提供對未來創(chuàng)新至關(guān)重要的安全且高性能的計算平臺 | NVIDIA 英偉達(dá)博客