谷歌正在推進(jìn)一項(xiàng)名為"TorchTPU"的內(nèi)部計(jì)劃，旨在提升其人工智能芯片對(duì)全球最廣泛使用的AI軟件框架PyTorch的兼容性，此舉直指英偉達(dá)長(zhǎng)期以來(lái)依賴的軟件生態(tài)護(hù)城河。

據(jù)彭博社周四報(bào)道，知情人士透露稱，谷歌正與Meta密切合作推進(jìn)這一計(jì)劃，Meta作為PyTorch的創(chuàng)建者和管理者，希望通過(guò)降低推理成本并使AI基礎(chǔ)設(shè)施多元化，以增強(qiáng)與英偉達(dá)的談判籌碼。谷歌還在考慮將部分軟件開(kāi)源，以加速客戶的采用速度。

與過(guò)去支持PyTorch的嘗試相比，谷歌此次投入了更多組織資源和戰(zhàn)略重視。隨著越來(lái)越多企業(yè)希望采用張量處理單元（TPU）芯片，但將軟件堆棧視為瓶頸，這一計(jì)劃已成為谷歌云業(yè)務(wù)的關(guān)鍵增長(zhǎng)引擎。

如果成功，TorchTPU將顯著降低企業(yè)從英偉達(dá)GPU轉(zhuǎn)向替代方案的切換成本。英偉達(dá)的主導(dǎo)地位不僅依賴硬件，更依賴其深度嵌入PyTorch的CUDA軟件生態(tài)系統(tǒng)，而這一生態(tài)已成為企業(yè)訓(xùn)練和運(yùn)行大型AI模型的默認(rèn)方法。

軟件兼容成TPU推廣最大障礙

谷歌的TorchTPU計(jì)劃旨在消除阻礙TPU芯片采用的關(guān)鍵障礙。知情人士表示，企業(yè)客戶一直向谷歌反饋，TPU在AI工作負(fù)載上更難采用，因?yàn)闅v史上開(kāi)發(fā)者需要轉(zhuǎn)向谷歌內(nèi)部青睞的機(jī)器學(xué)習(xí)框架Jax，而非大多數(shù)AI開(kāi)發(fā)者已在使用的PyTorch。

這一不匹配源于谷歌自身的技術(shù)路徑。谷歌內(nèi)部軟件開(kāi)發(fā)團(tuán)隊(duì)長(zhǎng)期使用名為Jax的代碼框架，其TPU芯片則依靠XLA工具來(lái)高效運(yùn)行代碼。谷歌自身的AI軟件堆棧和性能優(yōu)化主要圍繞Jax構(gòu)建，這擴(kuò)大了谷歌使用芯片方式與客戶需求之間的差距。

相比之下，英偉達(dá)的工程師多年來(lái)一直確保使用PyTorch開(kāi)發(fā)的軟件能在其芯片上盡可能快速高效地運(yùn)行。PyTorch是一個(gè)開(kāi)源項(xiàng)目，其發(fā)展歷史與英偉達(dá)CUDA軟件的開(kāi)發(fā)緊密相連。CUDA被華爾街部分分析師視為英偉達(dá)抵御競(jìng)爭(zhēng)對(duì)手的最強(qiáng)護(hù)盾。

谷歌加速TPU外部銷售

Alphabet長(zhǎng)期以來(lái)將其TPU芯片的絕大部分份額保留給內(nèi)部使用。這一情況在2022年發(fā)生改變，當(dāng)時(shí)谷歌云計(jì)算部門成功游說(shuō)，獲得了TPU銷售團(tuán)隊(duì)的管理權(quán)。此舉大幅增加了谷歌云的TPU配額。

隨著客戶對(duì)AI興趣的增長(zhǎng)，谷歌一直尋求通過(guò)提高TPU產(chǎn)量和對(duì)外銷售來(lái)獲利。TPU銷售已成為谷歌云收入的關(guān)鍵增長(zhǎng)引擎，該公司正努力向投資者證明其AI投資正在產(chǎn)生回報(bào)。

今年，谷歌開(kāi)始將TPU直接銷售到客戶的數(shù)據(jù)中心，而不再限制只能通過(guò)自家云服務(wù)訪問(wèn)。本月，谷歌資深人士Amin Vahdat被任命為AI基礎(chǔ)設(shè)施負(fù)責(zé)人，直接向首席執(zhí)行官Sundar Pichai匯報(bào)。谷歌需要這些基礎(chǔ)設(shè)施來(lái)運(yùn)行自己的AI產(chǎn)品，包括Gemini聊天機(jī)器人和AI驅(qū)動(dòng)的搜索，同時(shí)也要供應(yīng)給Anthropic等谷歌云客戶。

Meta成為戰(zhàn)略合作伙伴

為加速開(kāi)發(fā)進(jìn)程，谷歌正在與Meta密切合作。據(jù)The Information首次報(bào)道，兩家科技巨頭一直在討論Meta獲取更多TPU的交易。

知情人士透露，早期為Meta提供的服務(wù)采用谷歌托管模式，即Meta等客戶安裝谷歌設(shè)計(jì)的芯片來(lái)運(yùn)行谷歌軟件和模型，由谷歌提供運(yùn)營(yíng)支持。Meta在開(kāi)發(fā)使TPU更易運(yùn)行的軟件方面具有戰(zhàn)略利益，希望借此降低推理成本，并使其AI基礎(chǔ)設(shè)施從英偉達(dá)GPU多元化，從而獲得談判優(yōu)勢(shì)。

谷歌云發(fā)言人未就該項(xiàng)目的具體細(xì)節(jié)置評(píng)，該發(fā)言人表示：“我們看到對(duì)TPU和GPU基礎(chǔ)設(shè)施的大規(guī)模加速需求。我們的重點(diǎn)是提供開(kāi)發(fā)者所需的靈活性和規(guī)模，無(wú)論他們選擇在哪種硬件上構(gòu)建?！盡eta則拒絕置評(píng)。

降低切換成本挑戰(zhàn)英偉達(dá)生態(tài)

PyTorch最初于2016年發(fā)布，是開(kāi)發(fā)AI模型的開(kāi)發(fā)者最廣泛使用的工具之一。在硅谷，很少有開(kāi)發(fā)者會(huì)編寫英偉達(dá)、Advanced Micro Devices或谷歌芯片實(shí)際執(zhí)行的每一行代碼。相反，這些開(kāi)發(fā)者依賴PyTorch等工具，這是一個(gè)預(yù)編寫代碼庫(kù)和框架的集合，可以自動(dòng)化AI軟件開(kāi)發(fā)中的許多常見(jiàn)任務(wù)。

知情人士表示，隨著希望采用TPU芯片但將軟件堆棧視為瓶頸的企業(yè)需求增長(zhǎng)，谷歌已將更多組織重點(diǎn)、資源和戰(zhàn)略重要性投入TorchTPU項(xiàng)目。大多數(shù)開(kāi)發(fā)者無(wú)法輕松采用谷歌芯片并使其性能達(dá)到英偉達(dá)水平，除非進(jìn)行大量額外的工程工作。在快節(jié)奏的AI競(jìng)賽中，這類工作需要時(shí)間和資金。

如果TorchTPU計(jì)劃成功，將顯著降低希望尋求英偉達(dá)GPU替代方案的企業(yè)的切換成本。英偉達(dá)的主導(dǎo)地位不僅由其硬件加固，更依賴其深度嵌入PyTorch的CUDA軟件生態(tài)系統(tǒng)，這已成為企業(yè)訓(xùn)練和運(yùn)行大型AI模型的默認(rèn)方法。