據(jù)《The Information》今日?qǐng)?bào)道，Meta Platforms Inc.已同意一項(xiàng)價(jià)值數(shù)十億美元的協(xié)議，租用谷歌云的定制人工智能芯片。

報(bào)道援引匿名消息源稱，這些被稱為張量處理單元的芯片將被Meta用于訓(xùn)練和運(yùn)行其下一代大語(yǔ)言模型。

像Meta這樣的大型企業(yè)正在先進(jìn)處理器上投入數(shù)十億美元，競(jìng)相構(gòu)建支持AI工作負(fù)載所需的基礎(chǔ)設(shè)施，谷歌已將此視為重要的增長(zhǎng)機(jī)遇。AI芯片行業(yè)目前由英偉達(dá)公司的圖形處理單元主導(dǎo)，為當(dāng)今世界絕大多數(shù)AI應(yīng)用提供動(dòng)力，但谷歌的TPU是一個(gè)引人注目的低成本替代方案。

近年來(lái)，TPU已成為谷歌云基礎(chǔ)設(shè)施平臺(tái)最重要的增長(zhǎng)引擎之一，公司相信有真正的機(jī)會(huì)來(lái)增加其市場(chǎng)份額。谷歌在11月推出了其最先進(jìn)的TPU，稱為Ironwood?？蛻艨梢赃x擇將多達(dá)9,216個(gè)Ironwood TPU擴(kuò)展為單個(gè)服務(wù)器群組，通過高速互連連接，提供高達(dá)9.6太比特每秒的帶寬。這些芯片可以連接到高達(dá)1.77拍字節(jié)的共享高帶寬內(nèi)存或HBM。

根據(jù)谷歌的數(shù)據(jù)，Ironwood芯片可以提供比其最接近競(jìng)爭(zhēng)對(duì)手超過118倍的FP8 ExaFLOPS，在訓(xùn)練和推理方面比其上一代TPU Trillium性能提升四倍。

首批采用新TPU的公司之一是Anthropic PBC，該公司稱贊了這些芯片提供的巨大價(jià)格性能收益，使其能夠大規(guī)模服務(wù)大型Claude模型。此前，谷歌宣布與Anthropic達(dá)成了價(jià)值"數(shù)百億美元"的協(xié)議，通過其云基礎(chǔ)設(shè)施平臺(tái)為其提供100萬(wàn)個(gè)TPU的訪問權(quán)限。

今日的協(xié)議對(duì)Meta來(lái)說(shuō)很重要，因?yàn)樗Ｍ蛊銩I硬件遠(yuǎn)離英偉達(dá)實(shí)現(xiàn)多元化。這家社交媒體巨頭是英偉達(dá)最大的客戶之一，本月早些時(shí)候宣布了一項(xiàng)數(shù)十億美元的協(xié)議，購(gòu)買數(shù)百萬(wàn)塊該公司的下一代Vera Rubin GPU，這些GPU將在今年晚些時(shí)候上市。

但Meta不想被綁定在單一芯片供應(yīng)商上，還與英偉達(dá)最大競(jìng)爭(zhēng)對(duì)手之一的超微半導(dǎo)體公司建立了關(guān)系。本周早些時(shí)候，這家Facebook母公司表示將購(gòu)買價(jià)值數(shù)十億美元的AMD AI芯片，包括其最新的Instinct MI400系列GPU。此外，Meta還獲得了購(gòu)買AMD 10%股份的選擇權(quán)，但只有在與芯片制造商的合作達(dá)到約定的性能里程碑時(shí)才會(huì)發(fā)生。

Meta與谷歌的協(xié)議使其能夠進(jìn)一步多元化AI硬件供應(yīng)商基礎(chǔ)，有充分的理由這樣做。每種類型的AI處理器都有其優(yōu)缺點(diǎn)，因此這家社交媒體巨頭將能夠?yàn)槊糠NAI工作負(fù)載配對(duì)最優(yōu)的硅芯片。此外，通過讓不同的芯片制造商相互競(jìng)爭(zhēng)，它可能在構(gòu)建AI基礎(chǔ)設(shè)施時(shí)獲得有利的價(jià)格。

與此同時(shí)，谷歌有雄心打破英偉達(dá)對(duì)AI芯片市場(chǎng)的壟斷。它知道企業(yè)希望有英偉達(dá)GPU的替代品，并決心利用這一點(diǎn)。從歷史上看，其TPU只能通過谷歌云平臺(tái)獲得，意味著客戶只能租用訪問權(quán)限。

但現(xiàn)在谷歌希望直接向客戶銷售芯片，以便他們可以在自己的私有數(shù)據(jù)中心運(yùn)行。通過這樣做，它相信在未來(lái)幾年內(nèi)可以搶占英偉達(dá)數(shù)據(jù)中心收入的10%。

《The Information》的報(bào)告稱，Meta目前正在與谷歌談?wù)摓槠渥约旱臄?shù)據(jù)中心購(gòu)買數(shù)百萬(wàn)個(gè)TPU。這將是與今日協(xié)議分開的交易，后者僅涉及云訪問。然而，報(bào)告稱目前還未達(dá)成協(xié)議。

不太清楚的是今日的協(xié)議對(duì)Meta自己的內(nèi)部芯片意味著什么。該公司最后一次更新其定制的Meta訓(xùn)練和推理加速器或MTIA芯片是在2024年，據(jù)報(bào)道一直在與臺(tái)積電合作開發(fā)新設(shè)計(jì)，預(yù)計(jì)今年某個(gè)時(shí)候推出。

據(jù)報(bào)道，下一代MTIA芯片針對(duì)AI模型訓(xùn)練進(jìn)行了優(yōu)化，這是其第一代處理器表現(xiàn)不佳的領(lǐng)域。然而，據(jù)信該公司在新芯片方面遇到了"技術(shù)挑戰(zhàn)"，似乎延遲了它們的推出。

Q&A

Q1：Meta為什么要與谷歌簽署AI芯片租用協(xié)議？

A：Meta希望使其AI硬件供應(yīng)商多元化，不想被綁定在單一芯片供應(yīng)商上。通過與谷歌合作，Meta可以為不同類型的AI工作負(fù)載配對(duì)最優(yōu)的芯片，同時(shí)通過讓不同芯片制造商競(jìng)爭(zhēng)來(lái)獲得更有利的價(jià)格。

Q2：谷歌TPU芯片相比英偉達(dá)GPU有什么優(yōu)勢(shì)？

A：谷歌的TPU是英偉達(dá)GPU的低成本替代方案。最新的Ironwood TPU可以提供比最接近競(jìng)爭(zhēng)對(duì)手超過118倍的FP8 ExaFLOPS，在訓(xùn)練和推理方面比上一代TPU性能提升四倍，并能連接到高達(dá)1.77拍字節(jié)的共享高帶寬內(nèi)存。

Q3：這次協(xié)議對(duì)谷歌的市場(chǎng)戰(zhàn)略有什么意義？

A：這次協(xié)議是谷歌打破英偉達(dá)AI芯片市場(chǎng)壟斷戰(zhàn)略的重要一步。谷歌不僅通過云平臺(tái)提供TPU租用服務(wù)，還計(jì)劃直接向客戶銷售芯片供其在私有數(shù)據(jù)中心使用，目標(biāo)是在未來(lái)幾年搶占英偉達(dá)數(shù)據(jù)中心收入的10%。