編輯｜冷貓、澤南

太貴了。

時(shí)值美國圣誕購物季，喜歡電子產(chǎn)品的朋友們，卻發(fā)現(xiàn)了這樣恐怖的景象：

英偉達(dá)的頂配 GPU RTX 5090 官方起售價(jià)為 1999 美元（經(jīng)過市場溢價(jià)可能達(dá)到了 3000 美元以上），而一根單條 256GB 的 DDR5 內(nèi)存如今的市場價(jià)卻也飆升到了 3500-5000 美元之間。

電腦內(nèi)存，這個(gè)長期以來在配置里不占大頭的組件，現(xiàn)在的價(jià)格已經(jīng)漲到了令人乍舌的程度，這在個(gè)人消費(fèi)領(lǐng)域已經(jīng)成了個(gè)荒誕但又現(xiàn)實(shí)的寫照。而且根據(jù)各種新聞，短期看來 PC 內(nèi)存還要繼續(xù)漲價(jià)，手機(jī)據(jù)說也要漲價(jià)。

這一波內(nèi)存漲價(jià)的根本原因在于：產(chǎn)能都被 AI 截胡了，目前的內(nèi)存市場正處于一場由 AI 算力需求引發(fā)的「結(jié)構(gòu)性緊缺」中。

AI 訓(xùn)練與推理能力取決于 GPU、TPU 以及數(shù)據(jù)中心的整體性能，而 GPU / TPU 需要 HBM，AI 數(shù)據(jù)中心需要 LPDDR 內(nèi)存。全球只有三家公司具備生產(chǎn)高端 HBM 與 LPDDR 的能力：SK 海力士、三星電子、美光。

今年 10 月，OpenAI 以「星際之門」項(xiàng)目的名義，與三星和 SK 海力士簽下協(xié)議，鎖定了每月高達(dá) 90 萬片 DRAM 晶圓供應(yīng)（HBM 本質(zhì)上就是將多層 DRAM 芯片垂直堆疊在一起），這相當(dāng)于全球 DRAM 月產(chǎn)量的 40%。這種規(guī)模的采購，瞬間抽走了大量本可用于消費(fèi)市場的產(chǎn)能，直接導(dǎo)致合約價(jià)在交易公布后跳漲。

內(nèi)存廠家的產(chǎn)能是存在上限的。由于 AI 服務(wù)器對內(nèi)存的出價(jià)極高（向英偉達(dá)出售 HBM 內(nèi)存的利潤是向消費(fèi)者出售 DDR5 內(nèi)存的 5 倍），廠家會(huì)優(yōu)先將生產(chǎn)線分配給大客戶。這直接導(dǎo)致了供應(yīng)給 PC 市場的常規(guī) DDR5 晶圓減少，從而引發(fā)全球性的普漲。

不單單是內(nèi)存，AI 著實(shí)是電腦配件價(jià)格上漲的強(qiáng)力驅(qū)動(dòng)力。

不僅是 AI 基礎(chǔ)設(shè)施的內(nèi)存，現(xiàn)在「AI PC」的概念也要求更大的內(nèi)存來運(yùn)行本地大模型（LLM）。以前 16GB 的 PC 看起來已經(jīng)能夠處理所有任務(wù)，現(xiàn)在為了流暢運(yùn)行 10B 以上參數(shù)的模型，32GB 甚至 64GB 逐漸成為新的門檻。這種需求疊加正在讓內(nèi)存緊缺進(jìn)一步加劇。

前些天，硬盤存儲的價(jià)格也同樣遇到一波飆升。但最離譜的自然是顯卡市場，逛了逛某二手交易平臺，炙手可熱的 RTX 4090 仍要近兩萬的價(jià)格。小編當(dāng)年購入的 4090，在猛猛用了兩年之后出手甚至還能掙錢…

內(nèi)存漲價(jià)的行情不僅牽動(dòng)著 GPU 廠商和消費(fèi)者，也深刻影響到了科技公司，最近有消息稱，谷歌的一些采購人員因?yàn)槲茨鼙ＷC內(nèi)存供應(yīng)而遭解雇。

本月初，微軟采購高管訪問韓國，與 SK 海力士就長期供貨協(xié)議及價(jià)格展開談判。在會(huì)議中，SK 海力士明確表示：「在微軟提出的條件下，供貨存在困難?！挂晃话雽?dǎo)體業(yè)內(nèi)人士透露：「聽到這個(gè)答復(fù)后，一名微軟高管當(dāng)場情緒失控，憤然離席?！?/p>

據(jù)產(chǎn)業(yè)界 25 日消息，隨著全球 AI 半導(dǎo)體供應(yīng)緊張局勢加劇，包括微軟、谷歌在內(nèi)的全球科技巨頭采購負(fù)責(zé)人正蜂擁至韓國，爭搶產(chǎn)能

半導(dǎo)體行業(yè)相關(guān)人士表示：「為了與三星電子和 SK 海力士簽署存儲器供貨合同，微軟、谷歌、Meta 等大型科技公司總部的采購負(fù)責(zé)人幾乎是長期駐扎在韓國?！?/p>

目前，谷歌 TPU 所搭載的 HBM 中約 60% 由三星電子供應(yīng)。隨著近期 TPU 需求遠(yuǎn)超預(yù)期，谷歌試圖向 SK 海力士與美光尋求追加產(chǎn)能，但得到的回復(fù)是：「不可能。」

據(jù)悉，谷歌管理層因此解雇了相關(guān)采購負(fù)責(zé)人，認(rèn)為其未能提前簽署長期供貨協(xié)議，導(dǎo)致嚴(yán)重供應(yīng)鏈風(fēng)險(xiǎn)，是對一線人員的問責(zé)性人事處分。

這些科技巨頭為了內(nèi)存供應(yīng)而焦頭爛額的時(shí)候，被認(rèn)為是 AI 時(shí)代吃到最多紅利的英偉達(dá)，同樣也在為內(nèi)存短缺煩惱。

尤其是在谷歌推出 TPU 芯片，向推理與規(guī)?；渴饍?yōu)先的戰(zhàn)略轉(zhuǎn)型，挑戰(zhàn)英偉達(dá)在人工智能芯片的領(lǐng)先地位之后。

昨天，人工智能芯片初創(chuàng)公司 Groq 已與英偉達(dá)就推理技術(shù)達(dá)成了非排他性許可協(xié)議，同時(shí)英偉達(dá)挖走了 Groq 創(chuàng)始人兼 CEO Jonathan Ross、總裁 Sunny Madra 及多名核心工程師。詳細(xì)信息可以參閱我們的報(bào)道。

Groq 的 LPU（Language Processing Unit）芯片未采用英偉達(dá) GPU 常用的高帶寬內(nèi)存（HBM），而是將靜態(tài)隨機(jī)存取存儲器（SRAM）直接集成在芯片內(nèi)部。這種設(shè)計(jì)使單芯片內(nèi)存帶寬高達(dá) 80TB/s，是傳統(tǒng) HBM 方案的 20 倍以上。Groq 方案在物理空間和功耗上付出了代價(jià)：一個(gè)標(biāo)準(zhǔn)機(jī)架滿載功耗約為 26kW 至 30kW，且需要比 GPU 方案更多的機(jī)架數(shù)量來承載同等規(guī)模的模型參數(shù)。

聯(lián)系到瘋漲的 HBM 內(nèi)存價(jià)格，有業(yè)內(nèi)人士提出了一種觀點(diǎn)：

英偉達(dá)與 Groq 的交易，是為了對沖 DRAM 的價(jià)格瘋漲和產(chǎn)能短缺，探索在內(nèi)存上的新的技術(shù)路徑。

Groq 在推理領(lǐng)域?qū)⒁环N設(shè)計(jì)哲學(xué)推向極端，核心賭注在于 SRAM。模型權(quán)重完全駐留在片上，并非作為緩存，而是作為主存儲介質(zhì)存在。

而 SRAM 的帶寬比片外 HBM 高出若干個(gè)數(shù)量級，這一點(diǎn)至關(guān)重要，因?yàn)樵谕评磉^程中，每一個(gè)生成 token 的瓶頸受限于內(nèi)存訪問，而非浮點(diǎn)計(jì)算（FLOPs）。在此基礎(chǔ)上，Groq 采用靜態(tài)調(diào)度機(jī)制，計(jì)算與通信在編譯階段即被規(guī)劃到時(shí)鐘周期級別，從而消除了 GPU 架構(gòu)時(shí)代大量存在的系統(tǒng)復(fù)雜性。

這場溢價(jià)接近 3 倍的收購，或許也是英偉達(dá)在「內(nèi)存荒」的大背景下，正在開辟的第二條戰(zhàn)線。

不過，對這部分說法也有不少反對意見，畢竟使用 SRAM 做主內(nèi)存屬實(shí)有些匪夷所思。

SRAM 之所以是 Mb 級別 而不是 Tb 級別，是因?yàn)?SRAM 非?？欤挥信c邏輯電路集成在一起時(shí)才能發(fā)揮這一優(yōu)勢。換句話說，SRAM 的成本是在處理器芯片上制造高性能晶體管極其昂貴。英偉達(dá)的 Tensor Core 的芯片尺寸已經(jīng)非常巨大，因此增加大量 SRAM 單元也會(huì)很快出現(xiàn)問題。

最后，對于我們這些普通消費(fèi)者來說，是應(yīng)該抓緊時(shí)間換機(jī)，還是等待這一波瘋狂漲價(jià)過程的消退呢？