編輯｜冷貓、澤南

太貴了。

時值美國圣誕購物季，喜歡電子產(chǎn)品的朋友們，卻發(fā)現(xiàn)了這樣恐怖的景象：

英偉達的頂配 GPU RTX 5090 官方起售價為 1999 美元（經(jīng)過市場溢價可能達到了 3000 美元以上），而一根單條 256GB 的 DDR5 內(nèi)存如今的市場價卻也飆升到了 3500-5000 美元之間。

電腦內(nèi)存，這個長期以來在配置里不占大頭的組件，現(xiàn)在的價格已經(jīng)漲到了令人乍舌的程度，這在個人消費領(lǐng)域已經(jīng)成了個荒誕但又現(xiàn)實的寫照。而且根據(jù)各種新聞，短期看來 PC 內(nèi)存還要繼續(xù)漲價，手機據(jù)說也要漲價。

這一波內(nèi)存漲價的根本原因在于：產(chǎn)能都被 AI 截胡了，目前的內(nèi)存市場正處于一場由 AI 算力需求引發(fā)的「結(jié)構(gòu)性緊缺」中。

AI 訓(xùn)練與推理能力取決于 GPU、TPU 以及數(shù)據(jù)中心的整體性能，而 GPU / TPU 需要 HBM，AI 數(shù)據(jù)中心需要 LPDDR 內(nèi)存。全球只有三家公司具備生產(chǎn)高端 HBM 與 LPDDR 的能力：SK 海力士、三星電子、美光。

今年 10 月，OpenAI 以「星際之門」項目的名義，與三星和 SK 海力士簽下協(xié)議，鎖定了每月高達 90 萬片 DRAM 晶圓供應(yīng)（HBM 本質(zhì)上就是將多層 DRAM 芯片垂直堆疊在一起），這相當于全球 DRAM 月產(chǎn)量的 40%。這種規(guī)模的采購，瞬間抽走了大量本可用于消費市場的產(chǎn)能，直接導(dǎo)致合約價在交易公布后跳漲。

內(nèi)存廠家的產(chǎn)能是存在上限的。由于 AI 服務(wù)器對內(nèi)存的出價極高（向英偉達出售 HBM 內(nèi)存的利潤是向消費者出售 DDR5 內(nèi)存的 5 倍），廠家會優(yōu)先將生產(chǎn)線分配給大客戶。這直接導(dǎo)致了供應(yīng)給 PC 市場的常規(guī) DDR5 晶圓減少，從而引發(fā)全球性的普漲。

不單單是內(nèi)存，AI 著實是電腦配件價格上漲的強力驅(qū)動力。

不僅是 AI 基礎(chǔ)設(shè)施的內(nèi)存，現(xiàn)在「AI PC」的概念也要求更大的內(nèi)存來運行本地大模型（LLM）。以前 16GB 的 PC 看起來已經(jīng)能夠處理所有任務(wù)，現(xiàn)在為了流暢運行 10B 以上參數(shù)的模型，32GB 甚至 64GB 逐漸成為新的門檻。這種需求疊加正在讓內(nèi)存緊缺進一步加劇。

前些天，硬盤存儲的價格也同樣遇到一波飆升。但最離譜的自然是顯卡市場，逛了逛某二手交易平臺，炙手可熱的 RTX 4090 仍要近兩萬的價格。小編當年購入的 4090，在猛猛用了兩年之后出手甚至還能掙錢…

內(nèi)存漲價的行情不僅牽動著 GPU 廠商和消費者，也深刻影響到了科技公司，最近有消息稱，谷歌的一些采購人員因為未能保證內(nèi)存供應(yīng)而遭解雇。

本月初，微軟采購高管訪問韓國，與 SK 海力士就長期供貨協(xié)議及價格展開談判。在會議中，SK 海力士明確表示：「在微軟提出的條件下，供貨存在困難?！挂晃话雽?dǎo)體業(yè)內(nèi)人士透露：「聽到這個答復(fù)后，一名微軟高管當場情緒失控，憤然離席?！?/p>

據(jù)產(chǎn)業(yè)界 25 日消息，隨著全球 AI 半導(dǎo)體供應(yīng)緊張局勢加劇，包括微軟、谷歌在內(nèi)的全球科技巨頭采購負責人正蜂擁至韓國，爭搶產(chǎn)能

半導(dǎo)體行業(yè)相關(guān)人士表示：「為了與三星電子和 SK 海力士簽署存儲器供貨合同，微軟、谷歌、Meta 等大型科技公司總部的采購負責人幾乎是長期駐扎在韓國?！?/p>

目前，谷歌 TPU 所搭載的 HBM 中約 60% 由三星電子供應(yīng)。隨著近期 TPU 需求遠超預(yù)期，谷歌試圖向 SK 海力士與美光尋求追加產(chǎn)能，但得到的回復(fù)是：「不可能。」

據(jù)悉，谷歌管理層因此解雇了相關(guān)采購負責人，認為其未能提前簽署長期供貨協(xié)議，導(dǎo)致嚴重供應(yīng)鏈風險，是對一線人員的問責性人事處分。

這些科技巨頭為了內(nèi)存供應(yīng)而焦頭爛額的時候，被認為是 AI 時代吃到最多紅利的英偉達，同樣也在為內(nèi)存短缺煩惱。

尤其是在谷歌推出 TPU 芯片，向推理與規(guī)?；渴饍?yōu)先的戰(zhàn)略轉(zhuǎn)型，挑戰(zhàn)英偉達在人工智能芯片的領(lǐng)先地位之后。

昨天，人工智能芯片初創(chuàng)公司 Groq 已與英偉達就推理技術(shù)達成了非排他性許可協(xié)議，同時英偉達挖走了 Groq 創(chuàng)始人兼 CEO Jonathan Ross、總裁 Sunny Madra 及多名核心工程師。詳細信息可以參閱我們的報道。

Groq 的 LPU（Language Processing Unit）芯片未采用英偉達 GPU 常用的高帶寬內(nèi)存（HBM），而是將靜態(tài)隨機存取存儲器（SRAM）直接集成在芯片內(nèi)部。這種設(shè)計使單芯片內(nèi)存帶寬高達 80TB/s，是傳統(tǒng) HBM 方案的 20 倍以上。Groq 方案在物理空間和功耗上付出了代價：一個標準機架滿載功耗約為 26kW 至 30kW，且需要比 GPU 方案更多的機架數(shù)量來承載同等規(guī)模的模型參數(shù)。

聯(lián)系到瘋漲的 HBM 內(nèi)存價格，有業(yè)內(nèi)人士提出了一種觀點：

英偉達與 Groq 的交易，是為了對沖 DRAM 的價格瘋漲和產(chǎn)能短缺，探索在內(nèi)存上的新的技術(shù)路徑。

Groq 在推理領(lǐng)域?qū)⒁环N設(shè)計哲學(xué)推向極端，核心賭注在于 SRAM。模型權(quán)重完全駐留在片上，并非作為緩存，而是作為主存儲介質(zhì)存在。

而 SRAM 的帶寬比片外 HBM 高出若干個數(shù)量級，這一點至關(guān)重要，因為在推理過程中，每一個生成 token 的瓶頸受限于內(nèi)存訪問，而非浮點計算（FLOPs）。在此基礎(chǔ)上，Groq 采用靜態(tài)調(diào)度機制，計算與通信在編譯階段即被規(guī)劃到時鐘周期級別，從而消除了 GPU 架構(gòu)時代大量存在的系統(tǒng)復(fù)雜性。

這場溢價接近 3 倍的收購，或許也是英偉達在「內(nèi)存荒」的大背景下，正在開辟的第二條戰(zhàn)線。

不過，對這部分說法也有不少反對意見，畢竟使用 SRAM 做主內(nèi)存屬實有些匪夷所思。

SRAM 之所以是 Mb 級別 而不是 Tb 級別，是因為 SRAM 非常快，但只有與邏輯電路集成在一起時才能發(fā)揮這一優(yōu)勢。換句話說，SRAM 的成本是在處理器芯片上制造高性能晶體管極其昂貴。英偉達的 Tensor Core 的芯片尺寸已經(jīng)非常巨大，因此增加大量 SRAM 單元也會很快出現(xiàn)問題。

最后，對于我們這些普通消費者來說，是應(yīng)該抓緊時間換機，還是等待這一波瘋狂漲價過程的消退呢？