“我們的芯片業(yè)務(wù)火熱?！?/p>

這句話(huà)既不是出自英偉達(dá)、英特爾，也不是谷歌、微軟，而是來(lái)自于亞馬遜CEO安迪·杰西（Andy Jassy）最新的股東信。

他還補(bǔ)充到，Trainium芯片的需求正在爆發(fā)。

這聽(tīng)起來(lái)多少有點(diǎn)反直覺(jué)。

因?yàn)檫^(guò)去一段時(shí)間，你聽(tīng)到的亞馬遜，大概率不是這個(gè)故事。

你聽(tīng)到的應(yīng)該是亞馬遜如何裁員，是自由現(xiàn)金流被AI基建吞掉，是AWS增速被質(zhì)疑，是它和甲骨文一起被放進(jìn)了“AI包工頭”那一撥里。

在很多人的印象里，亞馬遜根本就不是一家站在AI潮頭的公司。

模型這邊，OpenAI有ChatGPT，Anthropic有Claude，谷歌有Gemini。如果我問(wèn)你亞馬遜最強(qiáng)的模型叫什么，很多人可能還真得先搜一下。

但在大家沒(méi)怎么注意的地方，亞馬遜其實(shí)已經(jīng)暗度陳倉(cāng)了。

在這封股東信里說(shuō)寫(xiě)到，AWS的AI業(yè)務(wù)年化收入已經(jīng)超過(guò)150億美元。

更關(guān)鍵的是，包含Graviton、Trainium和Nitro在內(nèi)的亞馬遜自研芯片業(yè)務(wù)，年化收入已經(jīng)超過(guò)200億美元，而且還在以三位數(shù)同比增長(zhǎng)。

安迪表示，如果把這塊業(yè)務(wù)單獨(dú)拆出來(lái)，像英偉達(dá)、英特爾那樣直接向第三方賣(mài)芯片，它的年化規(guī)模大約可以達(dá)到500億美元。

這個(gè)規(guī)模就不能再管它叫“內(nèi)部降本工具”了，這是一塊真正長(zhǎng)出來(lái)的新業(yè)務(wù)。

更重要的是，亞馬遜現(xiàn)在不是只做芯片。它有底層芯片，有數(shù)據(jù)中心，有AWS，有Bedrock，有Anthropic這樣的深度綁定客戶(hù)，也有OpenAI、蘋(píng)果這些外部大客戶(hù)。

換句話(huà)說(shuō)，雖然模型本身沒(méi)那么亮眼，不過(guò)亞馬遜的確是一家全棧AI公司了。

微軟還在OpenAI、Copilot、Azure和Maia之間摸索主軸，但亞馬遜的方向反而越來(lái)越清楚。

讓AI盡可能跑在AWS上，盡可能消耗AWS自己的芯片，最后把AI時(shí)代的利潤(rùn)率和控制權(quán)重新抓回自己手里。

所以我才覺(jué)得，芯片正在成為亞馬遜的“AWS”。

就比如Anthropic，現(xiàn)在他們的Claude模型，全都已經(jīng)在亞馬遜的芯片上跑過(guò)了。

為了吃定Anthropic這個(gè)大客戶(hù)，亞馬遜還專(zhuān)門(mén)建了一個(gè)AI算力集群，叫Project Rainier。

這個(gè)集群是全球已知最大的非Nvidia算力集群之一，僅印第安納州New Carlisle這一處園區(qū)，當(dāng)時(shí)就已經(jīng)部署了大約50萬(wàn)顆Trainium2芯片。

到2025年底，規(guī)模已經(jīng)擴(kuò)大到100萬(wàn)顆芯片。而這些芯片存在的目的就一個(gè)，跑Claude。

亞馬遜都這么客氣了，Anthropic自然也得禮尚往來(lái)，后者直接參與了亞馬遜Trainium3芯片的設(shè)計(jì)工作。

以前都是芯片公司有什么芯片，AI公司才能訓(xùn)練怎樣的模型。現(xiàn)在反過(guò)來(lái)了，AI公司開(kāi)始教云廠(chǎng)商怎么造芯片。

問(wèn)題也隨之而來(lái)。亞馬遜為啥非要自己造芯片？它真的是為了挑戰(zhàn)英偉達(dá)，還是只是想把AWS的利潤(rùn)率再抬高一點(diǎn)？

歸根結(jié)底，亞馬遜造芯片這件事，表面看是個(gè)硬件故事，但你只要往深處看，就會(huì)發(fā)現(xiàn)還是亞馬遜那套平臺(tái)邏輯，把別人的增長(zhǎng)，變成自己的基礎(chǔ)設(shè)施收入。

01

一場(chǎng)從2015年開(kāi)始的豪賭

Annapurna Labs成立于2011年，然后他們就一直處于隱身模式。

這家公司由三位工程師創(chuàng)立，他們采用了一種很叛逆的設(shè)計(jì)理念，從云計(jì)算、數(shù)據(jù)流量、實(shí)際需求倒推回去，再設(shè)計(jì)芯片。這種反向思維方法，恰好與亞馬遜的工作方式完全契合。

2015年初，亞馬遜以3.5億美元收購(gòu)了一家以色列芯片創(chuàng)業(yè)公司Annapurna Labs。

沒(méi)有新聞發(fā)布會(huì)，在亞馬遜的財(cái)報(bào)中，也只有一條簡(jiǎn)短聲明。當(dāng)時(shí)所有人都覺(jué)得，這只是亞馬遜眾多投資中不起眼的一筆。

收購(gòu)?fù)瓿珊?，亞馬遜并沒(méi)有急于推出產(chǎn)品。Annapurna Labs的團(tuán)隊(duì)先是參與了AWS相關(guān)項(xiàng)目，后來(lái)開(kāi)始給Nitro System的底層做硬件設(shè)計(jì)。

Nitro System是AWS的一套云基礎(chǔ)設(shè)施底層架構(gòu)。它是把原來(lái)由服務(wù)器主CPU和傳統(tǒng)虛擬化軟件負(fù)責(zé)的很多事情，拆出來(lái)交給專(zhuān)門(mén)的硬件去做。

Annapurna Labs就是負(fù)責(zé)來(lái)設(shè)計(jì)這個(gè)硬件。

有一說(shuō)一，這只是小打小鬧，或者你可以直接理解為Annapurna Labs在融入亞馬遜這個(gè)大家庭之前的一次團(tuán)建，真正的故事要從2018年開(kāi)始講起。

3年之后，AWS推出了Inferentia，這是一款專(zhuān)門(mén)用于推理的機(jī)器學(xué)習(xí)芯片。

亞馬遜認(rèn)為，與訓(xùn)練相比，推理任務(wù)對(duì)芯片的要求略低，更容易切入。這屬于人之常情，很多國(guó)內(nèi)做AI芯片的廠(chǎng)商也秉持著相同的想法。

2019年，搭載Inferentia芯片的Inf1實(shí)例正式上線(xiàn)。

這玩意到底性能如何呢？亞馬遜之前有一套搭載英偉達(dá)T4 GPU的云服務(wù)器，主打圖形渲染、視頻處理和機(jī)器學(xué)習(xí)推理。

Inf1比G4多了最高3倍的吞吐，每次推理成本最多低40%。

但是，Inf1在市場(chǎng)上卻沒(méi)什么聲量。原因在于它是專(zhuān)門(mén)為推理場(chǎng)景做了優(yōu)化，特別適合用來(lái)做推薦系統(tǒng)、圖像識(shí)別、語(yǔ)音識(shí)別、NLP推理這些。

可問(wèn)題就在于，亞馬遜的整個(gè)芯片生態(tài)剛起步，你想用Inf1，就必須得用亞馬遜自己的AWS Neuron SDK。

這個(gè)SDK的框架雖然支持TensorFlow/PyTorch/MXNet，但兼容性和成熟度遠(yuǎn)不如英偉達(dá)的CUDA。并且早期編譯器限制很多，比如控制流、模型大小、BERT序列長(zhǎng)度等都有約束。

所以Inf1更像是個(gè)概念產(chǎn)品，只是給市場(chǎng)打了個(gè)樣，亞馬遜自己也深知這一點(diǎn)。

不過(guò)Inf1的表現(xiàn)還是超出了亞馬遜的預(yù)期，于是接下來(lái)，亞馬遜開(kāi)始高歌猛進(jìn)。

2021年，AWS正式發(fā)布了首款面向客戶(hù)用于訓(xùn)練AI模型的芯片Trainium。訓(xùn)練芯片的技術(shù)難度遠(yuǎn)高于推理芯片，第一代Trainium基于7納米工藝，擁有約550億個(gè)晶體管，于2022年開(kāi)始為EC2 Trn1實(shí)例提供算力。

亞馬遜表示，在特定工作負(fù)載下，Trainium的每token成本比A100集群低54%。對(duì)于GPT類(lèi)模型，Trainium的吞吐量與A100相當(dāng)，但成本只有一半左右。

2023年底，亞馬遜在re: Invent大會(huì)上發(fā)布了第二代Trainium2芯片。這款芯片采用5納米工藝，計(jì)算核心數(shù)量是第一代的4倍，訓(xùn)練速度提升4倍，內(nèi)存容量顯著增加。

Trainium2針對(duì)生成式AI訓(xùn)練做了專(zhuān)門(mén)優(yōu)化，支持結(jié)構(gòu)化稀疏性，能夠更高效地處理大語(yǔ)言模型的訓(xùn)練任務(wù)。且相較于基于H200/H100的同類(lèi)云配置，價(jià)格性能可再提升30%到40%。

2024年12月，亞馬遜在re: Invent大會(huì)上首次公布了新一代Trainium3芯片。這是AWS首款采用3納米工藝的AI芯片。

到2025年底，Trainium3被正式集成到Trn3 UltraServer中，每臺(tái)服務(wù)器搭載144顆芯片，提供362 petaflops的總算力。這些服務(wù)器采用液冷技術(shù)，能效比前代提升約4倍。

AWS表示在部分訓(xùn)練和推理場(chǎng)景下，客戶(hù)可將成本進(jìn)一步壓低至英偉達(dá)GPU方案的一半左右。

從2015年到2026年，亞馬遜在芯片業(yè)務(wù)上的投入是漸進(jìn)式的，因此越后面投入越大。

2025年，亞馬遜的資本支出達(dá)到約1250億美元，其中絕大部分流向AI所需的數(shù)據(jù)中心、電力和芯片。

2026年，這個(gè)數(shù)字預(yù)計(jì)將達(dá)到2000億美元，比分析師預(yù)期高出近40%，也超過(guò)了谷歌宣布的1850億美元上限。

02

亞馬遜的芯片為啥能賣(mài)出去？

錢(qián)，不能只花不賺。

前文提到亞馬遜芯片業(yè)務(wù)的年化營(yíng)收已超過(guò)200億美元，是這個(gè)數(shù)字包括Graviton處理器、Trainium訓(xùn)練芯片和Nitro網(wǎng)絡(luò)芯片的總收入。

這封信還透露，如果芯片業(yè)務(wù)作為獨(dú)立公司運(yùn)營(yíng)，像英偉達(dá)或英特爾那樣直接向第三方銷(xiāo)售芯片，年化營(yíng)收規(guī)?？蛇_(dá)500億美元。

Graviton本質(zhì)上就是Annapurna Labs開(kāi)發(fā)的一款A(yù)rm服務(wù)器CPU，用來(lái)替代英特爾和AMD那類(lèi)傳統(tǒng)x86處理器，負(fù)責(zé)跑Web服務(wù)、數(shù)據(jù)庫(kù)、容器和各種企業(yè)應(yīng)用。

你可能要問(wèn)了，那為啥要有這玩意呢？我用英特爾的CPU不行嗎？

AWS上有大量的工作負(fù)載，其實(shí)根本不需要GPU，也不需要什么AI芯片，這些東西吃的就是最普通、最穩(wěn)定、最長(zhǎng)期的服務(wù)器CPU算力。

對(duì)這些常見(jiàn)的工作負(fù)載來(lái)說(shuō)，Graviton更便宜、更省電，還更容易推廣。

目前，亞馬遜的芯片主要通過(guò)AWS以租用形式提供給客戶(hù)，而不是直接銷(xiāo)售硬件。客戶(hù)購(gòu)買(mǎi)的是EC2實(shí)例的計(jì)算能力，背后可能是Graviton、Trainium或Inferentia芯片。

這種商業(yè)模式與傳統(tǒng)芯片廠(chǎng)商完全不同，倒是和網(wǎng)上一些租顯卡的個(gè)體戶(hù)很像。

從后來(lái)的結(jié)果看，Graviton也確實(shí)成了亞馬遜自研芯片里最早跑通商業(yè)閉環(huán)的產(chǎn)品。它不像Trainium那樣需要客戶(hù)重寫(xiě)大量訓(xùn)練流程，也不像Inferentia那樣強(qiáng)依賴(lài)特定推理場(chǎng)景。

在AWS彈性計(jì)算產(chǎn)品的1000個(gè)最大客戶(hù)中，超過(guò)90%正在使用Graviton芯片。AWS還披露，有超過(guò)5萬(wàn)名客戶(hù)在使用Graviton。知名企業(yè)如蘋(píng)果、SAP、Pinterest、Datadog都是Graviton的用戶(hù)。

所謂一分錢(qián)難倒英雄漢，很多公司遷移到Graviton，就是因?yàn)樗阋?、穩(wěn)定，而且遷移成本低。

Graviton先幫亞馬遜證明了一件事，只要價(jià)格便宜，客戶(hù)并不介意自己用的是什么芯片。

而這件事一旦被證明，Trainium和Inferentia后面的故事才真正有了繼續(xù)講下去的底氣。

Trainium和Inferentia的客戶(hù)就相對(duì)少一些，它們最大的客戶(hù)是Anthropic。

2024年底，Anthropic宣布了Project Rainier，將使用一個(gè)擁有近50萬(wàn)顆Trainium2芯片的算力集群訓(xùn)練Claude模型，文章開(kāi)頭我就提到了。

這個(gè)集群在2025年投入使用，是當(dāng)時(shí)世界上最大的機(jī)器學(xué)習(xí)訓(xùn)練集群之一，算力是Anthropic之前使用集群的五倍以上。

2025年，OpenAI先與AWS達(dá)成了規(guī)模達(dá)380億美元的長(zhǎng)期云合作承諾。到了2026年2月，亞馬遜又宣布向OpenAI投資500億美元，并確認(rèn)OpenAI將通過(guò)AWS基礎(chǔ)設(shè)施消耗約2吉瓦的Trainium計(jì)算容量。

考慮到Anthropic和亞馬遜自己的Bedrock服務(wù)已經(jīng)使用了大量Trainium芯片，亞馬遜竟然還能騰出手接下OpenAI這筆大單子，可見(jiàn)當(dāng)時(shí)的亞馬遜已經(jīng)All In芯片了。

除此以外還有蘋(píng)果，它們的搜索產(chǎn)品采用了Graviton 4和Inferentia 2，機(jī)器學(xué)習(xí)推理工作負(fù)載的效率提高了40%以上。蘋(píng)果還在早期階段測(cè)試Trainium 2，初步結(jié)果顯示，在Trainium 2上對(duì)模型進(jìn)行預(yù)訓(xùn)練，效率將提升50%。

然而正當(dāng)亞馬遜以為自己的芯片功法就要煉成的時(shí)候，有人給他們潑了一盆冷水。

2025年7月，一份亞馬遜內(nèi)部標(biāo)注為“機(jī)密”的文檔顯示，AI初創(chuàng)公司Cohere發(fā)現(xiàn)Trainium 1和Trainium 2芯片的性能“不及”英偉達(dá)的H100 GPU。

開(kāi)發(fā)了Stable Diffusion的圖像生成公司Stability AI也得出類(lèi)似結(jié)論，認(rèn)為T(mén)rainium 2在延遲方面表現(xiàn)不佳，使其在速度和成本上“競(jìng)爭(zhēng)力較弱”。

新加坡AI研究機(jī)構(gòu)AI Singapore的測(cè)試表明，配備英偉達(dá)GPU的AWS G6服務(wù)器在多個(gè)使用場(chǎng)景下的成本性能都優(yōu)于Inferentia 2。

亞馬遜對(duì)此回應(yīng)稱(chēng)，這些反饋“并非當(dāng)前情況”，Trainium和Inferentia已經(jīng)在Ricoh、Datadog、Metagenomi等客戶(hù)那里取得了“出色成果”。

03

云巨頭造芯片

盡管如此，需求仍在快速增長(zhǎng)。

亞馬遜的股東信中透露，兩家大型AWS客戶(hù)曾要求購(gòu)買(mǎi)2026年所有的Graviton實(shí)例容量，但亞馬遜因需要照顧其他客戶(hù)的需求而婉拒了這兩筆大單子。

AWS在2025年新增了3.9吉瓦的電力容量，預(yù)計(jì)到2027年底總電力容量將翻倍。

亞馬遜造芯片的故事，從2015年的一筆低調(diào)收購(gòu)，到2026年成為年化200億美元的業(yè)務(wù)，用了11年時(shí)間。

你要非得說(shuō)這個(gè)增長(zhǎng)多高多快，那也未必見(jiàn)得，但至少說(shuō)得過(guò)去。問(wèn)題就在于，這條路能走多遠(yuǎn)，能否真正復(fù)制AWS的成功。

亞馬遜造芯片的核心邏輯很簡(jiǎn)單，降低成本，提高利潤(rùn)率。但這個(gè)邏輯能否成立，取決于三個(gè)問(wèn)題：芯片真的更便宜嗎？客戶(hù)愿意為此付出遷移成本嗎？多久能收回投資？

首先，客戶(hù)需要使用AWS的Neuron SDK對(duì)代碼進(jìn)行適配。

Anthropic的工程師透露，將訓(xùn)練流程遷移到Trainium3大約需要三周時(shí)間，這比早期幾代定制芯片所需的數(shù)月時(shí)間大幅縮短，但仍然是一筆不小的工程投入。

其次，不是說(shuō)所有的模型架構(gòu)它都能用Trainium來(lái)跑。

有些架構(gòu)需要CUDA進(jìn)行特定操作，而且一些公司它是財(cái)大氣粗的類(lèi)型，要求算力必須達(dá)到極限，而這時(shí)候，仍然只能使用英偉達(dá)的產(chǎn)品。

如果把視角再往外拉一點(diǎn)，你會(huì)發(fā)現(xiàn)亞馬遜對(duì)芯片這件事的執(zhí)念，其實(shí)也和它自己在AI戰(zhàn)場(chǎng)上的尷尬處境有關(guān)。

我就舉一個(gè)例子，如果問(wèn)你，亞馬遜的模型是啥，你如果不去搜索，能立馬回答得上來(lái)嗎？

亞馬遜不是沒(méi)做模型，相反，它很早就布局了自己的Titan模型家族，后來(lái)又推出了Nova，想把文本、圖像、視頻這些生成能力都補(bǔ)齊。

后面還有覆蓋消費(fèi)端到企業(yè)端的各種AI產(chǎn)品，比如Bedrock、Q，再到升級(jí)版Alexa。

問(wèn)題在于，亞馬遜每一步都跟著摻和了，但是每一步都沒(méi)有讓客戶(hù)們滿(mǎn)意。這就導(dǎo)致亞馬遜在AI產(chǎn)業(yè)上面掉隊(duì)了。

除了亞馬遜，云巨頭也都在重塑AI芯片市場(chǎng)。

谷歌的TPU已經(jīng)迭代到第五代，微軟也在開(kāi)發(fā)自己的AI芯片Maia。

谷歌雖然不直接賣(mài)TPU，不過(guò)好歹還建了個(gè)云平臺(tái)，對(duì)外銷(xiāo)售TPU的算力。微軟倒好，這個(gè)Maia就從來(lái)沒(méi)有對(duì)外放出來(lái)過(guò)。

然而Maia的現(xiàn)狀，并不樂(lè)觀(guān)。

2023年的時(shí)候，微軟本想用Maia 100來(lái)跑OpenAI、Copilot這些大模型，但等產(chǎn)品剛開(kāi)始部署的時(shí)候發(fā)現(xiàn)，Maia 100的算力遠(yuǎn)遠(yuǎn)不夠支撐當(dāng)時(shí)的ChatGPT，所以O(shè)penAI也只能選擇英偉達(dá)。

2025年，微軟下一代Maia被爆出難產(chǎn)，因此其量產(chǎn)時(shí)間從2025年推遲到了2026年，原因包括設(shè)計(jì)中途變更、團(tuán)隊(duì)流動(dòng)和工程推進(jìn)不順，而且按當(dāng)時(shí)外媒透露的消息，新Maia的性能也比不上英偉達(dá)剛剛發(fā)布的Blackwell。

到了2026年1月，微軟總算是正式拿出了采用3nm工藝的Maia 200，但它的定位是推理，并不能像英偉達(dá)的GPU一樣用來(lái)訓(xùn)練大模型。

然而市面上已經(jīng)充滿(mǎn)了替代產(chǎn)品，微軟不僅技術(shù)上沒(méi)有領(lǐng)先，就連產(chǎn)能和鋪設(shè)速度也比不過(guò)亞馬遜和谷歌，這就導(dǎo)致微軟的Maia沒(méi)能掀起什么風(fēng)浪。

未來(lái)的AI芯片市場(chǎng)可能會(huì)分化為兩個(gè)層次，一個(gè)是英偉達(dá)、AMD主導(dǎo)的通用市場(chǎng)，另一個(gè)是云巨頭各自的封閉生態(tài)。

對(duì)于初創(chuàng)公司和中小企業(yè)來(lái)說(shuō)，選擇哪個(gè)云平臺(tái)，就意味著選擇了背后的芯片架構(gòu)。如果深度依賴(lài)AWS的Trainium，將來(lái)遷移到其他平臺(tái)的成本會(huì)非常高。

亞馬遜以前掉隊(duì)了，所以它才想要去鎖定中小企業(yè)未來(lái)，指不定能在AWS上再養(yǎng)出來(lái)幾個(gè)OpenAI、Anthropic這樣的企業(yè)。

但從另一個(gè)角度看，云巨頭的自研芯片也在推動(dòng)整個(gè)行業(yè)的進(jìn)步。英偉達(dá)之所以能夠長(zhǎng)期維持高利潤(rùn)率，部分原因是缺乏有效競(jìng)爭(zhēng)。

當(dāng)亞馬遜、谷歌、微軟都開(kāi)始自己造芯片，就會(huì)去倒逼英偉達(dá)降價(jià)、加快迭代。

最終受益的是整個(gè)AI行業(yè)。

亞馬遜造芯片能否成為下一個(gè)AWS，取決于如何定義“成功”。

如果成功意味著像AWS那樣創(chuàng)造一個(gè)全新的行業(yè)，改變整個(gè)科技生態(tài)，那么顯然，它并不能成為下一個(gè)AWS。芯片行業(yè)已經(jīng)存在了幾十年，亞馬遜不是在創(chuàng)造新市場(chǎng)，而是在重新分配現(xiàn)有市場(chǎng)的份額。

但如果成功意味著建立一個(gè)可持續(xù)的、有競(jìng)爭(zhēng)力的業(yè)務(wù)，為AWS提供成本優(yōu)勢(shì)和戰(zhàn)略控制權(quán)，那么亞馬遜已經(jīng)在這條路上走得很遠(yuǎn)。

200億美元的年化營(yíng)收，90%以上的頭部客戶(hù)采用率，Anthropic和OpenAI這樣的標(biāo)桿案例，這些都足以證明Trainium的成功。

更重要的是，當(dāng)你擁有從芯片到數(shù)據(jù)中心到軟件平臺(tái)的完整堆棧，你就可以針對(duì)特定工作負(fù)載進(jìn)行端到端的優(yōu)化，這是購(gòu)買(mǎi)通用芯片無(wú)法實(shí)現(xiàn)的。

從這個(gè)意義上說(shuō)，亞馬遜造芯片的故事，不是關(guān)于能賺多少錢(qián)，而是關(guān)于誰(shuí)掌握控制權(quán)。

在AI時(shí)代，算力就是石油，誰(shuí)控制了算力的生產(chǎn)和分配，誰(shuí)就掌握了未來(lái)。

亞馬遜不想把這個(gè)控制權(quán)完全交給英偉達(dá)，就像它當(dāng)年不想把云基礎(chǔ)設(shè)施的控制權(quán)交給英特爾一樣。

就算到最后，Trainium不能與英偉達(dá)平起平坐，它也已經(jīng)證明了云巨頭有能力挑戰(zhàn)芯片巨頭的壟斷地位。這本身也是一種成功。