編者按：

基于自研Amazon Graviton4處理器的Amazon EC2 R8g實(shí)例正式可用，意味著亞馬遜云科技的客戶現(xiàn)在可以廣泛地部署新一代實(shí)例，以利用它們的高性能和優(yōu)化的成本效益。這一里程碑式的進(jìn)步，將如何重新定義我們對(duì)云服務(wù)的期待與想象？

Arm 架構(gòu)處理器在云計(jì)算領(lǐng)域逐漸受到青睞的原因主要包括其能效優(yōu)勢(shì)和成本效益。Arm 處理器通常具有較低的功耗，這對(duì)于大規(guī)模的數(shù)據(jù)中心來說，可以節(jié)省大量的能源成本。此外，隨著技術(shù)的發(fā)展，Arm處理器的性能也在不斷提升，能夠滿足云計(jì)算中多種工作負(fù)載的需求。

專為云工作負(fù)載而生的Amazon Graviton系列處理器,首款產(chǎn)品在2018年發(fā)布，歷經(jīng)4輪迭代，不僅成就了亞馬遜云科技Arm服務(wù)器的霸主地位，更為生成式AI發(fā)展夯實(shí)了基礎(chǔ)設(shè)施新底座。

Amazon Graviton4與R8g強(qiáng)強(qiáng)聯(lián)合

性能飛躍新篇章

2023 re:Invent大會(huì)上宣布Amazon Graviton處理器再次升級(jí)，也就是Amazon Graviton4，半年后的今天，基于Amazon Graviton4的R8g實(shí)例正式可用。

據(jù)悉，Amazon Graviton4處理器搭載96個(gè)Neoverse V2核心，每個(gè)核心都配備了高達(dá)2MB的L2緩存，同時(shí)集成了12個(gè)DDR5-5600通道，從而確保了數(shù)據(jù)的高速傳輸與處理。相較于前代Graviton3處理器，Graviton4在性能上實(shí)現(xiàn)了質(zhì)的飛躍，獨(dú)立核心數(shù)量增加50%以上，內(nèi)存帶寬提升高達(dá)75%，專為內(nèi)存密集型應(yīng)用而生，該芯片集成了730億個(gè)晶體管，可為云服務(wù)提供了前所未有的強(qiáng)大動(dòng)力。

從 Graviton 到 Graviton4，亞馬遜云科技已經(jīng)累計(jì)交付了超過200萬顆 Graviton 芯片。

亞馬遜云科技計(jì)算和網(wǎng)絡(luò)副總裁 David Brown 表示：“我們的芯片設(shè)計(jì)重點(diǎn)放在對(duì)客戶重要的實(shí)際工作負(fù)載上，我們能夠?yàn)樗麄兲峁┳钕冗M(jìn)的云基礎(chǔ)設(shè)施?！?“Graviton4 標(biāo)志著我們?cè)诙潭涛迥陜?nèi)推出的第四代芯片，是我們?yōu)閺V泛的工作負(fù)載打造的最強(qiáng)大、最節(jié)能的芯片。”

而基于這款高性能處理器的Amazon EC2 R8g實(shí)例，與采用Graviton3的R7g實(shí)例相比，R8g實(shí)例在整體性能上提升了高達(dá)30%。這一顯著的性能提升，得益于Graviton4處理器的強(qiáng)大性能和優(yōu)化的系統(tǒng)設(shè)計(jì)。此外，R8g實(shí)例還提供了更大的實(shí)例規(guī)格，包括高達(dá)48xlarge的選項(xiàng)，其虛擬處理器（vCPU）數(shù)量和內(nèi)存也分別可提升至驚人的192個(gè) 1.5TB，這一規(guī)格是R7g實(shí)例的三倍，為數(shù)據(jù)庫、實(shí)時(shí)大數(shù)據(jù)分析等場(chǎng)景帶來革命性的效率提升，應(yīng)對(duì)各種復(fù)雜應(yīng)用場(chǎng)景時(shí)更加得心應(yīng)手。

Amazon Graviton4與R8g的強(qiáng)勁上線，不僅僅體現(xiàn)在Graviton4性能提升，R8g更大的實(shí)例規(guī)格以及高達(dá)50Gbps的增強(qiáng)網(wǎng)絡(luò)帶寬和高達(dá)40Gbps的Amazon EBS帶寬，更表現(xiàn)在基于Amazon Nitro System構(gòu)建的R8g實(shí)例，將CPU虛擬化、存儲(chǔ)和網(wǎng)絡(luò)功能卸載到專用硬件和軟件上，從而提升性能并增強(qiáng)安全性。同時(shí)還具備更廣泛的軟件支持、更好的資源優(yōu)化效率和更加友好的環(huán)境支持以及全球可用。

除此之外需要特別強(qiáng)調(diào)的是，亞馬遜云科技通過Graviton4的推出，并持續(xù)推動(dòng)包括機(jī)器學(xué)習(xí)在內(nèi)的其他領(lǐng)域的芯片發(fā)展，如Amazon Trainium2和Amazon Inferentia2芯片，從而驅(qū)動(dòng)生成式AI的每一步。

Amazon Graviton 處理器受到許多熱門的操作系統(tǒng)、ISV 和亞馬遜云科技合作伙伴支持，基于 Amazon Graviton 的實(shí)例也可用于熱門的托管 亞馬遜云科技服務(wù)，例如 Amazon Aurora、Amazon RDS 和 Amazon EKS。同時(shí)，亞馬遜云科技擁有龐大的云計(jì)算生態(tài)系統(tǒng)，包括豐富的工具、服務(wù)和應(yīng)用程序。因此，在提供出色性能的同時(shí)節(jié)省大量成本，滿足客戶不同應(yīng)用場(chǎng)景的需求。

據(jù)統(tǒng)計(jì)，超過150種計(jì)算實(shí)例及眾多托管服務(wù)在 Graviton 的驅(qū)動(dòng)下運(yùn)轉(zhuǎn)自如，惠及全球逾5萬用戶的數(shù)字化轉(zhuǎn)型之路，這使得開發(fā)者能夠更輕松地在Graviton4芯片和R8g實(shí)例上進(jìn)行開發(fā)和部署，充分發(fā)揮其性能優(yōu)勢(shì)。亞馬遜云科技的眾多客戶如SAP、Epic Games和SmugMug等已經(jīng)從使用基于Amazon Graviton4的實(shí)例中受益。這種廣泛的應(yīng)用和驗(yàn)證使得Graviton4與R8g的聯(lián)合更具可靠性和穩(wěn)定性。

因此，基于Amazon Graviton4的R8g正式可用，為企業(yè)數(shù)字化轉(zhuǎn)型提供了更加強(qiáng)大的引擎，預(yù)示著一個(gè)更智能、更綠色、更高效的云計(jì)算時(shí)代的到來。

助力企業(yè)數(shù)字化轉(zhuǎn)型與創(chuàng)新發(fā)展

開啟云服務(wù)新時(shí)代

隨著數(shù)字化轉(zhuǎn)型的深入推進(jìn)，企業(yè)對(duì)云服務(wù)的需求也日益增長(zhǎng)。在這一背景下，亞馬遜云科技新一代Amazon Graviton4處理器和Amazon EC2 R8g實(shí)例的推出，將為企業(yè)提供更為強(qiáng)大的計(jì)算支持和更高效的云服務(wù)體驗(yàn)。

“Amazon Graviton4 實(shí)例是我們測(cè)試過的最快的 EC2 實(shí)例，它們?cè)谖覀冏罹吒?jìng)爭(zhēng)力和延遲敏感的工作負(fù)載中提供了出色的性能?！?Epic 首席云工程師 Roman Visintine 表示：“我們期待使用 Graviton4 來改善玩家體驗(yàn)并擴(kuò)展《堡壘之夜》的可能性?！?/p>

更為可貴的是，基于CPU的一些機(jī)器學(xué)習(xí)和推理任務(wù)非常適合Graviton。

雖然 GPU 和加速器憑借優(yōu)異的性能，一直是這些部署任務(wù)的默認(rèn)首選平臺(tái)，但在推理領(lǐng)域，除了 GPU 和加速器之外，CPU 一直被用于傳統(tǒng)的 AI 和機(jī)器學(xué)習(xí) (ML) 用例。

CPU利用單指令多數(shù)據(jù)流(SIMD)技術(shù)，即單指令同時(shí)處理多個(gè)數(shù)據(jù)點(diǎn)，實(shí)現(xiàn)數(shù)據(jù)級(jí)并行和性能提升。Arm Neoverse CPU支持Neon和SVE等SIMD技術(shù)，加速HPC和ML算法。通用矩陣乘法(GEMM)是ML基礎(chǔ)算法，涉及復(fù)雜矩陣乘法運(yùn)算。Armv8.6-A架構(gòu)新增SMMLA和FMMLA指令，能在更寬陣列上并行執(zhí)行，顯著縮短取指和計(jì)算周期，而Amazon Graviton4/3就支持這些指令。

這使得圖像分類、對(duì)象檢測(cè)、自然語言處理、自動(dòng)語音識(shí)別、推薦系統(tǒng)、小語言模型等用例中，Amazon Graviton可為 ML 帶來諸多優(yōu)勢(shì)。

深究其原因，除了性能提升、能效優(yōu)勢(shì)、成本效益之外，還有非常關(guān)鍵的一條是與云計(jì)算資源和環(huán)境高度融合，比如亞馬遜云科技提供了多種基于Graviton的實(shí)例類型，這些實(shí)例可以根據(jù)具體的機(jī)器學(xué)習(xí)工作負(fù)載需求進(jìn)行選擇，無論是需要大量?jī)?nèi)存的模型還是需要高計(jì)算能力的訓(xùn)練任務(wù)。為機(jī)器學(xué)習(xí)和推理任務(wù)提供便捷、高效的計(jì)算環(huán)境和支持。

對(duì)于處理內(nèi)存密集型工作負(fù)載如數(shù)據(jù)庫、內(nèi)存緩存和實(shí)時(shí)大數(shù)據(jù)分析等任務(wù)來說，R8g實(shí)例其強(qiáng)大的性能和超高的資源配置，使得企業(yè)在處理這些復(fù)雜任務(wù)時(shí)能夠更加高效、穩(wěn)定。

隨著數(shù)字化轉(zhuǎn)型的深入推進(jìn)，企業(yè)對(duì)云服務(wù)的需求也日益增長(zhǎng)。在這一背景下，亞馬遜云科技新一代Amazon Graviton4處理器和Amazon EC2 R8g實(shí)例的推出，無疑為企業(yè)提供了更為強(qiáng)大的計(jì)算支持和更高效的云服務(wù)體驗(yàn)。

結(jié) 語

深度圍觀認(rèn)為：亞馬遜云科技再次重塑自己同時(shí)重塑了云計(jì)算生態(tài)。

在自研芯片的道路上，亞馬遜云科技的Amazon Graviton4處理器，不僅為云服務(wù)的性能和安全性設(shè)立了新的標(biāo)桿，更為全球云服務(wù)市場(chǎng)注入了一劑強(qiáng)心針。

Amazon Graviton4處理器的R8g實(shí)例，是亞馬遜云科技對(duì)“更智能、更綠色、更高效”云服務(wù)承諾的兌現(xiàn)。它將云計(jì)算的性能和可持續(xù)性提升到了一個(gè)新的維度。

在不斷重塑文化熏陶下，亞馬遜云科技在科技進(jìn)步的浩瀚星海，再次以技術(shù)突破完成對(duì)未來智能世界的深遠(yuǎn)布局，不僅重塑了自己，同時(shí)重塑了云計(jì)算生態(tài)。

亞馬遜云科技re:Inforce 2024中國(guó)站即將拉開帷幕！