新智元報(bào)道

編輯：桃子

【新智元導(dǎo)讀】圣誕節(jié)前夕，AI芯片領(lǐng)域爆出震撼消息！「全球市值老大」英偉達(dá)獲得AI初創(chuàng)Groq推理技術(shù)授權(quán)，傳聞以200億美金「收編」谷歌TPU之父和工程團(tuán)隊(duì)。老黃此次出手，瞄準(zhǔn)了AI推理，劍指谷歌TPU。

圣誕前夕，英偉達(dá)也沒(méi)閑著。

一大早，CNBC獨(dú)家爆料稱，英偉達(dá)斥資史上最大200億美金，一舉收購(gòu)了AI芯片初創(chuàng)Groq。

然而，實(shí)際上這并非是一場(chǎng)「收購(gòu)」。

Groq官方發(fā)文做出回應(yīng)：英偉達(dá)與Groq達(dá)成了一項(xiàng)推理技術(shù)授權(quán)協(xié)議。

與此同時(shí)，Groq創(chuàng)始人&CEO Jonathan Ross（谷歌TPU之父）、總裁Sunny Madra等工程團(tuán)隊(duì)一并加入英偉達(dá)。

這家Groq初創(chuàng)公司，未來(lái)還將獨(dú)立運(yùn)營(yíng)，任命新的CEO。

這種合作方式，已經(jīng)在業(yè)內(nèi)成為「基操」，比如Meta與Scale AI、谷歌與Windsurf、微軟與InfectionAI....

不是收購(gòu)，是「技術(shù)授權(quán)」

Groq在官網(wǎng)聲明中強(qiáng)調(diào)，英偉達(dá)達(dá)成了「非獨(dú)占性」技術(shù)授權(quán)協(xié)議（non-exclusive licensing）。

這意味著，英偉達(dá)將獲得Groq核心推理技術(shù)使用權(quán)。未來(lái)，他們還計(jì)劃將其低延遲芯片整合進(jìn)產(chǎn)品體系中。

另外，Groq仍將獨(dú)立運(yùn)營(yíng)，其云業(yè)務(wù)（GroqCloud）不受影響，新任CEO將由原財(cái)務(wù)主管Simon Edwards擔(dān)任。

截至目前，這筆交易未披露具體細(xì)節(jié)。

僅有CNBC最初爆料稱，將會(huì)達(dá)200億美金級(jí)別，堪稱英偉達(dá)史上最大規(guī)模單筆投資或資產(chǎn)收購(gòu)類交易。

在今年初，老黃曾在一次采訪中表示，「推理需求未來(lái)將增長(zhǎng)高達(dá)十億倍」。

如今，英偉達(dá)宣布收購(gòu)Groq——一家專注于推理、低延遲芯片著稱的廠商。

這清楚地表明，推理和訓(xùn)練本質(zhì)上，是兩種截然不同的計(jì)算負(fù)載，而GPU并不是最適合推理工作的解決方案。

不熟悉的人，一定好奇Groq是誰(shuí)？

Groq：推理專用芯片之王

這家初創(chuàng)公司成立于2016年，由前谷歌TPU首席設(shè)計(jì)師Jonathan Ross和一群前谷歌工程師創(chuàng)立。

今年9月，Groq完成了7.5億美元融資，估值達(dá)69億美元。

成立伊始，公司便專注于AI推理階段，致力于打造高速、低延遲、低成本的AI芯片。

與市場(chǎng)GPU、TPU不同，他們開(kāi)拓了一個(gè)新的方向——LPU（語(yǔ)言處理單元）。

2024年初，Groq首款LPU亮相，一夜爆火。

Groq一秒即可輸出500個(gè)token，當(dāng)場(chǎng)秒殺ChatGPT，在當(dāng)時(shí)堪稱世界上速度最快的LLM。

這款LPU單卡僅有230MB內(nèi)存，2萬(wàn)美元一張，而且在推理任務(wù)上，還要比英偉達(dá)GPU快10倍。

LPU能夠以驚人速度做出響應(yīng)，其工作原理與GPU截然不同。

在團(tuán)隊(duì)公開(kāi)的論文中介紹——

它采用了時(shí)序指令集計(jì)算機(jī)（Temporal Instruction Set Computer）架構(gòu)，這意味著它無(wú)需像使用高帶寬存儲(chǔ)器（HBM）的GPU那樣頻繁地從內(nèi)存中加載數(shù)據(jù)。

這一特點(diǎn)不僅有助于避免HBM短缺的問(wèn)題，還能有效降低成本。

這種設(shè)計(jì)使得每個(gè)時(shí)鐘周期（every clock cycle）都能被有效利用，從而保證了穩(wěn)定的延遲和吞吐量。

論文地址：https://dl.acm.org/doi/10.1145/3470496.3527405

Groq的創(chuàng)新芯片設(shè)計(jì)實(shí)現(xiàn)了多個(gè)TSP的無(wú)縫鏈接，避免了GPU集群中常見(jiàn)的瓶頸問(wèn)題，極大地提高了可擴(kuò)展性。

這意味著隨著更多LPU的加入，性能可以實(shí)現(xiàn)線性擴(kuò)展，簡(jiǎn)化了大規(guī)模AI模型的硬件需求，使開(kāi)發(fā)者能夠更容易地?cái)U(kuò)展應(yīng)用，而無(wú)需重構(gòu)系統(tǒng)。

總結(jié)來(lái)說(shuō)，Groq的LPU專攻低延遲、高效率推理，響應(yīng)速度極快，能顯著降低實(shí)時(shí)AI應(yīng)用的延遲。

這恰恰是當(dāng)前AI市場(chǎng)，從「訓(xùn)練為主」向「推理為主」轉(zhuǎn)型的關(guān)鍵痛點(diǎn)。

在訓(xùn)練階段，英偉達(dá)GPU幾乎壟斷，但推理市場(chǎng)競(jìng)爭(zhēng)激烈，AMD、谷歌TPU，以及多家初創(chuàng)都在爭(zhēng)搶份額。

Groq低延遲技術(shù)，或許被英偉達(dá)視為產(chǎn)品的完美補(bǔ)充，能為自身打開(kāi)更多市場(chǎng)，進(jìn)一步鞏固其數(shù)據(jù)中心和AI基礎(chǔ)設(shè)施的霸主地位。

谷歌TPU之父，入職英偉達(dá)

如今，全網(wǎng)熱議的點(diǎn)不僅僅Groq技術(shù)本身，還有它背后的明星級(jí)團(tuán)隊(duì)。

AI大佬Yuchen Jin直言，這基本上是一次「招聘式的收購(gòu)」。

創(chuàng)始人兼CEO本人Jonathan Ross，曾是谷歌TPU之父。

在谷歌期間，他曾發(fā)起了一個(gè)最初作為「20%項(xiàng)目」的內(nèi)部創(chuàng)新計(jì)劃，從那之后，這一項(xiàng)目演變成為廣為人知的Tensor Processing Unit（TPU）。

在此過(guò)程中，他親自設(shè)計(jì)并實(shí)現(xiàn)了第一代TPU芯片的核心架構(gòu)與關(guān)鍵組件。

隨后，Jonathan又加入了Google X的Rapid Eval Team，這是著名「登月工廠」的早期階段。

在那里他為谷歌的母公司Alphabet構(gòu)思、孵化并推進(jìn)多個(gè)全新的Bets（即新業(yè)務(wù)方向和獨(dú)立項(xiàng)目）。

Jonathan在高中就退了學(xué)，之后通過(guò)自學(xué)和旁聽(tīng)課程，最終進(jìn)入紐約大學(xué)Courant Institute。

值得一提的是，他曾師從深度學(xué)習(xí)領(lǐng)域的先驅(qū)Yann LeCun。

正如網(wǎng)友所言，這筆交易看起來(lái)像是，英偉達(dá)對(duì)谷歌成功使用TPU進(jìn)行AI訓(xùn)推所做出的直接、迅速的回應(yīng)。

Groq和其團(tuán)隊(duì)的加入，從側(cè)面暗示了，英偉達(dá)正強(qiáng)勢(shì)補(bǔ)齊推理算力的短板，在未來(lái)擴(kuò)展推理市場(chǎng)領(lǐng)先優(yōu)勢(shì)。

參考資料：

https://www.cnbc.com/2025/12/24/nvidia-buying-ai-chip-startup-groq-for-about-20-billion-biggest-deal.html

https://www.reuters.com/business/nvidia-buy-ai-chip-startup-groq-about-20-billion-cnbc-reports-2025-12-24/

https://www.bloomberg.com/news/articles/2025-12-24/nvidia-reaches-licensing-deal-with-chip-startup-groq?srnd=phx-technology

秒追ASI

?點(diǎn)贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點(diǎn)亮星標(biāo)，鎖定新智元極速推送！