在各行各業(yè)的人工智能（AI）工作負(fù)載和高性能計(jì)算（HPC）日益增長的基礎(chǔ)設(shè)施，其需求復(fù)雜性也在同步增長。大型語言模型、多模態(tài)AI、智能體AI和先進(jìn)科學(xué)模擬需要前所未有的計(jì)算能力、內(nèi)存帶寬和能源。這些需求不僅超越原始性能，還包括編排靈活性、成本優(yōu)化和合規(guī)準(zhǔn)備。

最近一項(xiàng)Hyperion Research研究顯示持續(xù)擴(kuò)張的幾個(gè)關(guān)鍵要素：9%的受訪者表示計(jì)劃適度或大幅擴(kuò)展AI基礎(chǔ)設(shè)施以也支持HPC工作負(fù)載。約28%的人將這種擴(kuò)張描述為顯著的。不到3%的人期望縮減其AI使用，沒有人將這種縮減描述為顯著的。

Hyperion Research是一家專注于高性能計(jì)算（HPC）、人工智能（AI）和數(shù)據(jù)分析領(lǐng)域的獨(dú)立市場(chǎng)研究機(jī)構(gòu)。公司的前身是IDC（國際數(shù)據(jù)公司）旗下的HPC部門，于2017年獨(dú)立運(yùn)營。

在當(dāng)今快速演變的AI格局中，組織機(jī)構(gòu)在為其工作負(fù)載選擇基礎(chǔ)設(shè)施時(shí)面臨眾多選項(xiàng)。決策涵蓋本地部署和基于云的解決方案，各自提供獨(dú)特優(yōu)勢(shì)。同樣，加速計(jì)算選項(xiàng)——特別是GPU——呈現(xiàn)多種性能優(yōu)化路徑。戰(zhàn)略合作伙伴關(guān)系，如IBM Cloud與AMD的合作，旨在提供集成解決方案，將先進(jìn)技術(shù)能力與靈活性相結(jié)合，通過混合解決方案使用戶能夠在性能、功能、服務(wù)和成本效率之間實(shí)現(xiàn)正確平衡，同時(shí)保持前瞻性和敏捷路線圖。

當(dāng)前格局

AI幾乎在所有行業(yè)和應(yīng)用空間的用戶群體中產(chǎn)生影響，包括大量以前未采用AI基礎(chǔ)設(shè)施的用戶。雖然許多趨勢(shì)影響著塑造大型用戶群體中AI使用的格局，但研究表明影響當(dāng)下的三大主要因素：

增加投資和配置：組織優(yōu)先考慮針對(duì)AI訓(xùn)練和推理優(yōu)化的硬件，對(duì)支持低精度計(jì)算（FP8、BF16）的GPU的興趣日益增長。由于成本限制、硬件可用性有限和持續(xù)實(shí)驗(yàn)等因素，僅16%的用戶表示僅使用本地硬件來滿足其推理計(jì)算需求，凸顯了多樣化和可用云資源的價(jià)值。

環(huán)境復(fù)雜性日益增長：混合云、本地環(huán)境以及容器化已成為大規(guī)模先進(jìn)計(jì)算和AI組織的幾乎普遍標(biāo)配。這種混合安排帶來了硬件可用性和云端支持的敏捷性，同時(shí)保持了本地的成本效益和可靠性。然而，這種新復(fù)雜性帶來了諸如獨(dú)特軟件工具以管理跨源計(jì)算和數(shù)據(jù)管理的需求、使用這些獨(dú)特工具的擴(kuò)展專業(yè)知識(shí)，以及對(duì)成本效益的更嚴(yán)格關(guān)注以避免支出失控的需求。

建立AI最佳實(shí)踐：大多數(shù)先進(jìn)計(jì)算/AI用戶表示對(duì)其AI技術(shù)和支持它的多樣化市場(chǎng)產(chǎn)品進(jìn)行持續(xù)實(shí)驗(yàn)和探索。由于利用AI仍然是先進(jìn)計(jì)算連續(xù)體中的相對(duì)新角色，尤其是在國家實(shí)驗(yàn)室等傳統(tǒng)HPC組織中，建立標(biāo)準(zhǔn)實(shí)踐需要時(shí)間。雖然用戶在更適當(dāng)?shù)貐?shù)化和定義其應(yīng)用計(jì)算需求方面取得進(jìn)展，但云提供商提供的資源繼續(xù)發(fā)光發(fā)熱。用戶傾向于使用高性能GPU配置其AI推理需求，主流GPU和超大規(guī)模提供商在受歡迎程度上緊隨其后。隨著AI采用和擴(kuò)展的推進(jìn)，這種對(duì)高性能GPU的偏好預(yù)計(jì)會(huì)上升。

終端用戶對(duì)AI要求的看法

最近的Hyperion Research研究強(qiáng)調(diào)影響AI基礎(chǔ)設(shè)施決策的關(guān)鍵用戶關(guān)注點(diǎn)和要求：

規(guī)模和復(fù)雜性：訓(xùn)練萬億參數(shù)模型需要大規(guī)模并行性和內(nèi)存容量。此外，在擴(kuò)展推理能力的同時(shí)持續(xù)微調(diào)和再訓(xùn)練帶來了獨(dú)特挑戰(zhàn)。隨著市場(chǎng)上軟件產(chǎn)品的快速演變以及關(guān)于新數(shù)據(jù)未來可用性問題的日益增長，在內(nèi)部訓(xùn)練和運(yùn)行完全擴(kuò)展的先進(jìn)AI模型可能具有挑戰(zhàn)性、成本高昂，有時(shí)效率低下。

混合部署：企業(yè)越來越多地在本地和云環(huán)境中運(yùn)營，引入編排和合規(guī)復(fù)雜性。管理數(shù)據(jù)本地性和來源、跨平臺(tái)軟件工具以及實(shí)現(xiàn)持續(xù)效率和成本效益需要詳細(xì)和嚴(yán)格的調(diào)度和管理。參與實(shí)驗(yàn)或探索工作的用戶最經(jīng)常報(bào)告在云環(huán)境中參與這些項(xiàng)目，生產(chǎn)工作緊隨其后，可能是由于其易訪問性和低承諾。最近的研究顯示，采用AI的用戶中遷移率很高。

負(fù)擔(dān)能力和可用性：支持尖端AI計(jì)算所需的硬件和工具昂貴，有時(shí)作為本地資源對(duì)某些用戶完全不可用。無論是由于成本限制、芯片開發(fā)步伐和費(fèi)用的增加，還是貿(mào)易法的變化，填充數(shù)據(jù)中心所需資源的負(fù)擔(dān)能力和可用性是用戶的關(guān)注點(diǎn)。

能源和可持續(xù)性：不斷增長的電力和冷卻需求使效率成為采購優(yōu)先事項(xiàng)。獲得所需的電力、水、空間和其他基礎(chǔ)設(shè)施是用戶組織日益增長的潛在障礙，尤其是那些希望繼續(xù)擴(kuò)展的組織。

安全和合規(guī)：受監(jiān)管行業(yè)需要零信任架構(gòu)、對(duì)新法規(guī)的敏捷響應(yīng)和彈性安全。AI技術(shù)及其應(yīng)用正在經(jīng)歷連續(xù)的、有時(shí)令人困惑的監(jiān)管政策轟炸，可能難以應(yīng)對(duì)。雖然AI用戶中挑戰(zhàn)依然存在，但對(duì)技術(shù)增強(qiáng)和重塑當(dāng)前工作負(fù)載仍存在巨大信任。根據(jù)最近一項(xiàng)Hyperion Research研究，用戶最經(jīng)常預(yù)計(jì)在3年內(nèi)獲得AI投資回報(bào)，同時(shí)繼續(xù)探索其選項(xiàng)并實(shí)驗(yàn)新模型類型、硬件配置和軟件工具。這些希望是有充分根據(jù)的，用戶報(bào)告其最近集成的AI技術(shù)正在達(dá)到或超出預(yù)期，特別是在某些應(yīng)用空間內(nèi)。

IBM Cloud與AMD解決方案

IBM Cloud集成AMD最新一代MI Instinct系列GPU硬件產(chǎn)品，提供高內(nèi)存帶寬以優(yōu)化大型模型推理和微調(diào)，得到統(tǒng)一內(nèi)存支持，旨在消除CPU和GPU之間的瓶頸，對(duì)多樣化的AI數(shù)據(jù)類型和稀疏性提供優(yōu)化支持。這種硬件結(jié)合IBM安全、合規(guī)就緒的云，實(shí)現(xiàn)AI和HPC工作負(fù)載的規(guī)?；阅堋Ｔ撚布盗袑橐?guī)?；腁I和HPC而構(gòu)建，基于擴(kuò)展基礎(chǔ)設(shè)施效率和高內(nèi)存容量引入更低的擁有成本，能夠在更少GPU上運(yùn)行更大或更多數(shù)量的模型。此外，通過承諾開放標(biāo)準(zhǔn)，用戶免受供應(yīng)商鎖定，擁有靈活擴(kuò)展的自由，允許未來增長和敏捷性。

主要特性：

性能和可擴(kuò)展性：AMD MI Instinct系列支持大規(guī)模模型而無需GPU碎片化，減少訓(xùn)練時(shí)間和成本。其架構(gòu)針對(duì)需要大內(nèi)存容量的生成式AI和HPC工作負(fù)載進(jìn)行優(yōu)化。它可以通過單個(gè)通用基板上8個(gè)GPU之間的連貫內(nèi)存共享管理最大模型，并支持FP4、FP6、FP9和FP16數(shù)據(jù)類型。

混合靈活性：IBM Cloud上的Red Hat OpenShift提供容器可移植性，在云環(huán)境內(nèi)和本地之間，以及Kubernetes編排，而OpenShift AI提供構(gòu)建和部署定制AI解決方案的工具箱。結(jié)合IBM Cloud上的watsonx.ai即服務(wù)，企業(yè)可以在本地和云環(huán)境間無縫擴(kuò)展AI工作流。

安全和合規(guī)：IBM Cloud為受監(jiān)管行業(yè)提供內(nèi)置控制、零信任身份管理和后量子密碼學(xué)就緒性——對(duì)在嚴(yán)格合規(guī)授權(quán)下運(yùn)營的企業(yè)至關(guān)重要。默認(rèn)集成方法允許在不跨網(wǎng)絡(luò)或磁盤暴露高價(jià)值工作負(fù)載的情況下管理該過程。

量子展望：IBM和AMD在以量子為中心的超算方面的合作標(biāo)志著量子和經(jīng)典HPC融合的未來，實(shí)現(xiàn)前所未有的問題解決能力。

AI管道覆蓋：適用于AI生命周期——從訓(xùn)練和微調(diào)到推理——同時(shí)支持傳統(tǒng)HPC應(yīng)用。IBM Cloud服務(wù)提供全棧方法來支持先進(jìn)計(jì)算，采用研究知情方法，考慮常見用戶挑戰(zhàn)、行為模式和價(jià)值創(chuàng)造。除了外圍支持外，這些云服務(wù)包含全面的Gen AI堆棧，包括AI助手和代理AI、用于嵌入的SDK和API、數(shù)據(jù)平臺(tái)和服務(wù)以及基礎(chǔ)設(shè)施工具。

IBM Cloud上的AMD硬件利用跨行業(yè)工具套件建立整體、研究知情的生態(tài)系統(tǒng)，以滿足用戶最緊迫的需求。這些工具從頭到尾賦予現(xiàn)代企業(yè)安全、可擴(kuò)展的AI能力。這些解決方案不僅包括IBM和AMD解決方案，還與Red Hat OpenShift和Ansible自動(dòng)化平臺(tái)集成開源解決方案，以及通過IBM咨詢和業(yè)務(wù)伙伴實(shí)現(xiàn)現(xiàn)代化的機(jī)會(huì)。