IBM宣布即將全面推出IBM Spyre Accelerator，這是一款A(yù)I加速器，能夠?qū)崿F(xiàn)低延遲推理，以支持生成式AI和代理AI應(yīng)用，同時(shí)優(yōu)先考慮核心工作負(fù)載的安全性和彈性。今年早些時(shí)候，IBM宣布Spyre加速器將在IBM z17、LinuxONE 5和Power11系統(tǒng)中提供。Spyre將于10月28日在IBM z17和LinuxONE 5系統(tǒng)上正式上市，并于12月初在Power11服務(wù)器上推出市場(chǎng)。

今天的IT環(huán)境正在從傳統(tǒng)的邏輯工作流程轉(zhuǎn)變?yōu)榇砣斯ぶ悄芡评?。AI代理需要低延遲推理和實(shí)時(shí)系統(tǒng)響應(yīng)。IBM認(rèn)識(shí)到，大型機(jī)和服務(wù)器需要在不影響吞吐量的情況下運(yùn)行人工智能模型以及最苛刻的企業(yè)工作負(fù)載。為了滿足這一需求，客戶需要支持生成和代理人工智能的人工智能推理硬件，同時(shí)保持核心數(shù)據(jù)、交易和應(yīng)用程序的安全性和彈性。該加速器還旨在使客戶能夠?qū)㈥P(guān)鍵任務(wù)數(shù)據(jù)保存在本地，以降低風(fēng)險(xiǎn)，同時(shí)解決運(yùn)營(yíng)和能源效率問題。

IBM Spyre加速器反映了IBM從研究到產(chǎn)品的實(shí)力，將IBM研究AI硬件中心的突破性創(chuàng)新與IBM Infrastructure的企業(yè)級(jí)開發(fā)相結(jié)合。Spyre最初是作為原型芯片推出的，通過快速迭代進(jìn)行了改進(jìn)，包括在IBM約克敦高地校區(qū)的集群部署，以及與奧爾巴尼大學(xué)新興人工智能系統(tǒng)中心等合作伙伴的合作。

IBM Research原型已經(jīng)發(fā)展成為一種企業(yè)級(jí)產(chǎn)品，用于IBM Z、LinuxONE和Power系統(tǒng)。如今，Spyre加速器作為一個(gè)商用片上系統(tǒng)，擁有32個(gè)獨(dú)立的加速器內(nèi)核和256億個(gè)晶體管。每個(gè)Spyre采用5nm節(jié)點(diǎn)技術(shù)生產(chǎn)，安裝在75瓦的PCIe卡上，這使得在IBM Z或LinuxONE系統(tǒng)中最多可以集群48張卡，或者在IBM Power系統(tǒng)中集群16張卡，以擴(kuò)展AI功能。

“我們的一個(gè)關(guān)鍵優(yōu)先事項(xiàng)是推進(jìn)基礎(chǔ)設(shè)施建設(shè)，以滿足新興人工智能工作負(fù)載的需求，”IBM基礎(chǔ)設(shè)施首席運(yùn)營(yíng)官兼IBM系統(tǒng)總經(jīng)理Barry Baker說?！敖柚鶶pyre Accelerator，我們正在擴(kuò)展系統(tǒng)的功能，以支持多模型人工智能，包括生成和代理人工智能。這項(xiàng)創(chuàng)新使客戶能夠以毫不妥協(xié)的安全性、彈性和效率擴(kuò)展其支持人工智能的關(guān)鍵任務(wù)工作負(fù)載，同時(shí)釋放其企業(yè)數(shù)據(jù)的價(jià)值?！?/p>

“我們于2019年成立了IBM研究人工智能硬件中心，其使命是滿足人工智能不斷增長(zhǎng)的計(jì)算需求，甚至在我們最近看到的LLM和人工智能模型激增之前，”IBM半導(dǎo)體總經(jīng)理兼IBM混合云副總裁Mukesh Khare說?！艾F(xiàn)在，在對(duì)先進(jìn)人工智能功能的需求不斷增加的情況下，我們很自豪地看到該中心的第一個(gè)芯片進(jìn)入商業(yè)化階段，旨在為IBM的大型機(jī)和服務(wù)器客戶端提供更高的性能和生產(chǎn)力。”

對(duì)于IBM客戶，Spyre加速器通過本地AI加速提供快速、安全的處理。這標(biāo)志著一個(gè)重要的里程碑，使企業(yè)能夠大規(guī)模利用人工智能，同時(shí)保留IBM Z、LinuxONE和Power系統(tǒng)上的數(shù)據(jù)。在大型機(jī)系統(tǒng)中，結(jié)合用于IBM Z和LinuxONE的Telum II處理器，Spyre提供了增強(qiáng)的安全性、低延遲和高事務(wù)速率處理能力。利用這種先進(jìn)的硬件和軟件堆棧，企業(yè)可以使用Spyre擴(kuò)展多個(gè)AI模型，以支持高級(jí)欺詐檢測(cè)和零售自動(dòng)化等商業(yè)預(yù)測(cè)用例。

在基于IBM Power的服務(wù)器上，Spyre客戶可以利用一系列AI服務(wù)，為企業(yè)工作流程實(shí)現(xiàn)端到端的AI。客戶只需點(diǎn)擊一下即可從目錄中安裝AI服務(wù)。Spyre Accelerator for Power與片上加速器（MMA）相結(jié)合，還可以加速生成AI的數(shù)據(jù)轉(zhuǎn)換，為深度過程集成提供高吞吐量。此外，它的提示大小為128，可以在一小時(shí)內(nèi)接收800多萬份文檔進(jìn)行知識(shí)庫(kù)集成。這種性能與IBM軟件棧、安全性、可擴(kuò)展性和能效相結(jié)合，支持客戶將生成式人工智能框架集成到企業(yè)工作負(fù)載中。

與 Ai 時(shí)代前沿合作，將大門向更多普通用戶敞開！無論你是對(duì)新技術(shù)充滿好奇心的愛好者，還是希望提升自己技能的職場(chǎng)人士，這里都有適合你的課程和資源。歡迎掃碼加入我們！