公眾號(hào)記得加星標(biāo)??，第一時(shí)間看推送不會(huì)錯(cuò)過(guò)。

如果你想涉足DRAM和閃存市場(chǎng)，最好做好承受過(guò)山車般波動(dòng)的準(zhǔn)備。因?yàn)檫@些行業(yè)的繁榮與蕭條周期，真可謂驚心動(dòng)魄。

正當(dāng)GenAI市場(chǎng)在2022年11月迎來(lái)ChatGPT主流化的關(guān)鍵時(shí)刻時(shí)，此前近三年受新冠疫情推動(dòng)的個(gè)人和數(shù)據(jù)中心基礎(chǔ)設(shè)施建設(shè)熱潮不僅沒(méi)有消退，而且隨著整個(gè)IT行業(yè)需求的萎縮，DRAM和閃存的價(jià)格也下跌了一半甚至更多。內(nèi)存和閃存廠商遭受重創(chuàng)，庫(kù)存積壓嚴(yán)重。

如今推動(dòng) GenAI 繁榮發(fā)展的超大規(guī)模數(shù)據(jù)中心運(yùn)營(yíng)商、云構(gòu)建商和模型構(gòu)建商可能都希望自己有時(shí)光機(jī)，因?yàn)楝F(xiàn)在對(duì) DRAM 和閃存的需求遠(yuǎn)遠(yuǎn)超過(guò)了供應(yīng)，價(jià)格再次飆升至天價(jià)。

在DRAM方面，全球超過(guò)一半的服務(wù)器需要配備數(shù)百GB的HBM堆疊式內(nèi)存，以滿足數(shù)百萬(wàn)臺(tái)服務(wù)器的需求。為了制造八個(gè)高HBM3內(nèi)存堆疊，每個(gè)最終能正常工作的堆疊都需要消耗三個(gè)DRAM芯片，因?yàn)槎询B過(guò)程中經(jīng)常會(huì)出現(xiàn)問(wèn)題，而且無(wú)法將廢棄堆疊中的內(nèi)存拆解并重新利用。堆疊越高，獲得正常工作的堆疊就越困難，良率也越低，而且隨著每一代新的HBM的出現(xiàn)，其固有的良率也在不斷降低。因此，盡管HBM需求旺盛，但它會(huì)消耗大量的芯片，而這些芯片原本可以分配給高性能服務(wù)器DDR5內(nèi)存，卻被閑置在內(nèi)存制造廠中。

目前困擾IT行業(yè)的閃存短缺問(wèn)題與DRAM短缺問(wèn)題有所不同。與DRAM短缺類似，閃存代工廠——包括鎧俠（Kioxia）、美光科技（Micron Technology）、三星（Samsung）、閃迪（SanDisk，鎧俠的代工廠合作伙伴）、Solidigm以及長(zhǎng)江存儲(chǔ)（YMTC，如果算上中國(guó)本土供應(yīng)商的話）——的產(chǎn)能無(wú)法迅速提升。他們會(huì)根據(jù)市場(chǎng)情況調(diào)整生產(chǎn)，以追求利潤(rùn)最大化。而問(wèn)題的關(guān)鍵在于，市場(chǎng)需求遠(yuǎn)遠(yuǎn)超過(guò)了供應(yīng)。

“你知道2023年情況非常糟糕，實(shí)際上是內(nèi)存市場(chǎng)歷史上最嚴(yán)重的低迷期，”Solidigm產(chǎn)品和市場(chǎng)營(yíng)銷主管Greg Matson告訴The Next Platform。當(dāng)時(shí)，Solidigm容量最大的閃存盤(pán)容量分別為30TB和60TB。“2023年9月底，產(chǎn)品開(kāi)始恢復(fù)出貨，然后在2024年第一季度，產(chǎn)品突然開(kāi)始熱銷。與此同時(shí)，我們也在生產(chǎn)最大容量的閃存盤(pán)，我們當(dāng)時(shí)認(rèn)為這可能只占我們需求的一小部分。但事實(shí)證明，它迅速成為我們?cè)鲩L(zhǎng)最快的需求之一?！?/p>

這對(duì) Solidigm 及其在閃存芯片和閃存盤(pán)領(lǐng)域的同行來(lái)說(shuō)，無(wú)疑是一個(gè)令人欣喜的困惑。毫無(wú)疑問(wèn)，這些公司在 2024 年看到了閃存存儲(chǔ)收入的快速增長(zhǎng)，這種增長(zhǎng)勢(shì)頭一直持續(xù)到 2025 年，現(xiàn)在又延續(xù)到了 2026 年。過(guò)去兩年（2023 年底與 2025 年底相比），由于閃存盤(pán)的需求超過(guò)了供應(yīng)，這些閃存制造商從中受益匪淺，價(jià)格上漲了 50% 到 70%。

是什么驅(qū)動(dòng)了這種需求？答案是：用于英偉達(dá)所謂的“AI工廠”以及我們?nèi)匀环Q之為“AI超級(jí)計(jì)算機(jī)”的分層存儲(chǔ)。（數(shù)據(jù)中心一直以來(lái)都是信息工廠。）雖然如今以千兆瓦為單位簽訂合同的AI超級(jí)計(jì)算機(jī)，其預(yù)算中存儲(chǔ)并非主導(dǎo)因素，但存儲(chǔ)——尤其是HBM、DRAM和閃存——對(duì)于AI超級(jí)計(jì)算機(jī)架構(gòu)而言，其重要性不亞于原始的串行、向量和張量計(jì)算。

為了好玩，馬特森向我們講解了他最近用來(lái)向 Solidigm 高層管理人員解釋當(dāng)前情況的數(shù)學(xué)方法。

英偉達(dá)AI工廠架構(gòu)包含四層存儲(chǔ)，分別以字母G表示，個(gè)中緣由尚不明確，或許是因?yàn)橛ミ_(dá)宇宙中的一切都服務(wù)于GPU。G1層是GPU加速器封裝上的HBM內(nèi)存，G2層是主機(jī)服務(wù)器上的DRAM內(nèi)存。建議G2層的容量應(yīng)為G1層的2到4倍，以便在AI處理大型上下文窗口時(shí)能夠吸收G1層的溢出數(shù)據(jù)。

閃存在接下來(lái)的兩個(gè)存儲(chǔ)層級(jí)中發(fā)揮作用。G3 存儲(chǔ)是節(jié)點(diǎn)級(jí)存儲(chǔ)，對(duì)于 Nvidia NVL72 機(jī)器或 AMD Helios 機(jī)架來(lái)說(shuō)，它指的是機(jī)架級(jí)節(jié)點(diǎn)。G3 層用于存儲(chǔ)創(chuàng)建并定期進(jìn)行檢查點(diǎn)維護(hù)的中間處理數(shù)據(jù)。檢查點(diǎn)維護(hù)至關(guān)重要，因?yàn)?AI 超級(jí)計(jì)算機(jī)的 GPU 和 XPU 之間需要同步通信，這意味著如果其中一個(gè)發(fā)生故障，則可能需要數(shù)天甚至數(shù)月的計(jì)算也會(huì)失敗。通過(guò)定期進(jìn)行檢查點(diǎn)維護(hù)，可以將中間數(shù)據(jù)重新加載到 GPU 中，并在故障點(diǎn)之前重新啟動(dòng)計(jì)算，而無(wú)需從頭開(kāi)始 AI 訓(xùn)練。

隨著 Vera-Rubin 平臺(tái)中的“Vera”VC100 CPU 和“Rubin”R200 GPU將于今年晚些時(shí)候推出，Nvidia 將推出一個(gè)新的 G3.5 層級(jí)，稱為推理上下文內(nèi)存存儲(chǔ)，它基本上使用 BlueField-4 DPU 作為存儲(chǔ)控制器，并將其放置在節(jié)點(diǎn)/機(jī)架內(nèi)部，以獲得更快的速度，并對(duì)數(shù)據(jù)進(jìn)行一些本地處理。

在英偉達(dá)人工智能超級(jí)計(jì)算機(jī)架構(gòu)中，G4 級(jí)存儲(chǔ)是指將對(duì)象和文件存儲(chǔ)在節(jié)點(diǎn)或機(jī)架級(jí)系統(tǒng)（實(shí)際上就是一個(gè)大型節(jié)點(diǎn)）外部的網(wǎng)絡(luò)存儲(chǔ)。VAST Data 對(duì)其架構(gòu)進(jìn)行了調(diào)整，使其能夠承擔(dān) G3 級(jí)存儲(chǔ)的檢查點(diǎn)功能，這是一個(gè)有趣的架構(gòu)選擇，可以為人工智能系統(tǒng)架構(gòu)師節(jié)省一些成本。

我們認(rèn)為英偉達(dá)架構(gòu)應(yīng)該包含一個(gè)基于超大容量硬盤(pán)的G5級(jí)存儲(chǔ)。這符合超大規(guī)模數(shù)據(jù)中心和云服務(wù)提供商的做法，他們目前購(gòu)買(mǎi)了全球約95%的硬盤(pán)出貨量。據(jù)我們所知，英偉達(dá)參考架構(gòu)中并沒(méi)有G5存儲(chǔ)層。

既然如此，我們來(lái)算算閃存的容量。對(duì)于一個(gè)使用英偉達(dá)“Grace”GC100 CPU和“Blackwell”B200或B300 GPU的1 Gbps系統(tǒng)，根據(jù)系統(tǒng)配置和散熱方式的不同，它可以支持50萬(wàn)到60萬(wàn)個(gè)GPU。Matson取了55萬(wàn)作為平均值，這個(gè)數(shù)字看起來(lái)比較合理。英偉達(dá)建議每個(gè)GPU在節(jié)點(diǎn)中配備15 TB的G3閃存用于檢查點(diǎn)和其他功能，并為每個(gè)GPU配備30 TB的外部網(wǎng)絡(luò)存儲(chǔ)用于存儲(chǔ)海量數(shù)據(jù)。

計(jì)算一下，對(duì)于 1 吉瓦的安裝，需要 8.5 艾字節(jié)的內(nèi)部閃存容量和 16.5 艾字節(jié)的網(wǎng)絡(luò)閃存容量，總?cè)萘繛?25 艾字節(jié)。

在網(wǎng)上查閱了各大GPU和XPU制造商的估算和聲明后，我發(fā)現(xiàn)2023年大約出貨了300萬(wàn)個(gè)計(jì)算引擎（這里指的是插槽），2024年大約出貨了700萬(wàn)個(gè)，2025年大約出貨了1000萬(wàn)個(gè)。以英偉達(dá)的標(biāo)準(zhǔn)為準(zhǔn)，每個(gè)GPU/XPU配備45TB閃存，這意味著2023年這些AI超級(jí)計(jì)算機(jī)大約消耗了135EB的閃存，2024年大約消耗了315EB，2025年大約消耗了450EB。

這可是大量的閃存需求??！而且到了2026年情況會(huì)更糟，因?yàn)樾枨髸?huì)大幅增長(zhǎng)，而供應(yīng)增長(zhǎng)卻十分緩慢，價(jià)格也會(huì)隨之上漲。閃存芯片和閃存盤(pán)制造商將會(huì)大賺一筆。

https://www.nextplatform.com/2026/02/17/ai-eats-the-world-and-most-of-its-flash-storage/

（來(lái)源：編譯自nextplatform）

*免責(zé)聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個(gè)人觀點(diǎn)，半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達(dá)一種不同的觀點(diǎn)，不代表半導(dǎo)體行業(yè)觀察對(duì)該觀點(diǎn)贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。

今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4321期內(nèi)容，歡迎關(guān)注。

加星標(biāo)??第一時(shí)間看推送

求推薦