站在機(jī)房門(mén)口，就能聽(tīng)到老顧的咆哮——

老顧，某能源集團(tuán)新成立的三產(chǎn)數(shù)科公司技術(shù)負(fù)責(zé)人。

集團(tuán)做數(shù)智化轉(zhuǎn)型，借大模型東風(fēng)，年初拉起一支隊(duì)伍，搞行業(yè)專(zhuān)屬大模型，不僅服務(wù)內(nèi)部，也要服務(wù)行業(yè)。

剛開(kāi)始，老顧還志得意滿，可最近幾個(gè)月，火太大了。

因?yàn)樗窒碌膱F(tuán)隊(duì)在干兩件事↓

①模型訓(xùn)練
基于開(kāi)源模型，基于集團(tuán)的行業(yè)數(shù)據(jù)，作后訓(xùn)練和全參微調(diào)，以便開(kāi)發(fā)自家的能源行業(yè)專(zhuān)屬模型。
②推理服務(wù)
搭建本地化推理服務(wù)，滿足集團(tuán)和兄弟業(yè)務(wù)部門(mén)的AI需求。

這兩件事干得都非常不順利。

眼看Q4就要結(jié)束了，模型還沒(méi)訓(xùn)練出一個(gè)像樣的，推理服務(wù)也天天被人投訴。

老顧自己也被集團(tuán)分管領(lǐng)導(dǎo)天天點(diǎn)名。

老顧急眼了，拉團(tuán)隊(duì)骨干開(kāi)會(huì)。

最終，大家一致的結(jié)論是：這屆存儲(chǔ)不行！

老顧聽(tīng)完，麻了。

一拍桌子：好，那就解散吧！

??？聽(tīng)到解散，大家懵了。

團(tuán)隊(duì)才成立，怎么能說(shuō)解散就解散？！

此時(shí)，老顧神秘一笑——

“我說(shuō)的解散，不是團(tuán)隊(duì)解散，是把現(xiàn)在的存儲(chǔ)架構(gòu)「解散」，從存算緊耦合，變成存算解耦。”

老顧打開(kāi)準(zhǔn)備了很久的PPT，開(kāi)始給大家“上課”↓

以前我們走的彎路就是注意力都在算力上，現(xiàn)在看，存儲(chǔ)同樣重要。

GPU決定了模型能多聰明，但存儲(chǔ)系統(tǒng)決定了它能否吃飽，真正讓AI跑起來(lái)，離不開(kāi)底層數(shù)據(jù)高速公路。

大模型訓(xùn)練對(duì)存儲(chǔ)系統(tǒng)的挑戰(zhàn)不止是快，而是要在【高吞吐+高可靠+可擴(kuò)展+高能效】四個(gè)維度同時(shí)達(dá)標(biāo)。

同樣的，大模型推理不只是單純的算力游戲，更是數(shù)據(jù)效率的較量，它要求存儲(chǔ)系統(tǒng)既快、又穩(wěn)、又省、還能靈活擴(kuò)展。

這時(shí)，存儲(chǔ)team的負(fù)責(zé)人開(kāi)腔了：“那我們的存儲(chǔ)怎么改造呢？”

老顧胸有成竹：“我最近看到一套方案，非常不錯(cuò)?！?/strong>

老顧繼續(xù)“口若懸河”——

這是一種分離式的架構(gòu)：在不改變邏輯連接的情況下，將存儲(chǔ)和計(jì)算資源從服務(wù)器中解耦。

能做到這點(diǎn)，離不開(kāi)一個(gè)支撐技術(shù)：NVMe-oF?。

通過(guò)它，服務(wù)器能像訪問(wèn)本地NVMe SSD一樣訪問(wèn)遠(yuǎn)程存儲(chǔ)陣列，并且吞吐更高、延遲更低、成本更可控、運(yùn)維更簡(jiǎn)單。

這才是大模型這種數(shù)據(jù)密集型場(chǎng)景，最需要的架構(gòu)。

在這場(chǎng)存儲(chǔ)革命中，西部數(shù)據(jù)走在了行業(yè)前列。

OpenFlex? Data24系列NVMe-oF? 存儲(chǔ)平臺(tái)， 正是適用于大模型應(yīng)用場(chǎng)景的「新一代智能存儲(chǔ)底座」。

說(shuō)著，老顧招呼大家來(lái)看硬件規(guī)格↓

首先，OpenFlex Data24系列為2U 24盤(pán)位，支持24塊U.2接口的NVMe SSD，容量密度相當(dāng)高，單節(jié)點(diǎn)可達(dá)驚人的1474TB。

同時(shí)，提供12個(gè)100GbE網(wǎng)口，支持RoCE和NVMe over TCP融合以太網(wǎng)，網(wǎng)絡(luò)帶寬能力拉滿。

下面這顆芯片是精華，由西部數(shù)據(jù)自研專(zhuān)用于NVMe-oF?硬件加速的ASIC芯片，負(fù)責(zé)把NVMe SSD的PCIe協(xié)議與以太網(wǎng)協(xié)議“橋接”起來(lái)，不需CPU參與。

這樣，服務(wù)器就可以通過(guò)網(wǎng)絡(luò)直接高速讀寫(xiě)NVMe，不再需要傳統(tǒng)的存儲(chǔ)控制器，延遲接近本地NVMe的水準(zhǔn)（幾十微秒級(jí)）。

OpenFlex Data24系列目前具體包括兩款產(chǎn)品，4100和4200，核心區(qū)別在SSD端口上。

4100采用單端口SSD設(shè)計(jì)，適用于以吞吐量?jī)?yōu)先的云環(huán)境，而4200采用雙端口SSD，具備原生的高可用能力。

這兩款產(chǎn)品，不光規(guī)格勁爆，實(shí)戰(zhàn)也很能打。

在MLPerf Storage V2 基準(zhǔn)測(cè)試中，OpenFlex Data24展現(xiàn)出作為AI存儲(chǔ)優(yōu)秀的性能。

3D-UNet工作負(fù)載擁有龐大的三維輸入數(shù)據(jù)集和密集流式讀取模式，對(duì)存儲(chǔ)系統(tǒng)的持續(xù)高帶寬和低延遲能力構(gòu)成了挑戰(zhàn)。

測(cè)試中，OpenFlex Data24實(shí)現(xiàn)了高達(dá) 106.5 GB/s的持續(xù)讀取吞吐量，足以“喂飽”三臺(tái)GPU服務(wù)器共計(jì)36張H100顯卡，輕松應(yīng)對(duì)帶寬密集型、高并行度的訓(xùn)練任務(wù)。

ResNet50工作負(fù)載包含大量小文件、混合I/O、頻繁迭代，是驗(yàn)證存儲(chǔ)系統(tǒng)能否為GPU提供高吞吐數(shù)據(jù)的黃金基準(zhǔn)。

這項(xiàng)測(cè)試中，OpenFlex Data24表現(xiàn)更為出色，扛住了橫跨3個(gè)服務(wù)器節(jié)點(diǎn)、186個(gè)模擬H100 GPU的數(shù)據(jù)需求。

接下來(lái)，大家開(kāi)始討論如何用OpenFlex Data24來(lái)解決大模型訓(xùn)推實(shí)戰(zhàn)項(xiàng)目中的坑——

大模型訓(xùn)練場(chǎng)景，對(duì)存儲(chǔ)的要求是這樣的：高吞吐量、大規(guī)模并行、高可用性，還要求優(yōu)秀的擴(kuò)展性和更好的性價(jià)比。

而大模型推理場(chǎng)景，對(duì)存儲(chǔ)的要求是這樣的：高并發(fā)低延遲、高頻隨機(jī)訪問(wèn)、模型權(quán)重快速加載，以及低成本高能效。

我們綜合一下兩種場(chǎng)景，看看西部數(shù)據(jù)OpenFlex Data24怎么搞定這些難題。

首先，針對(duì)高吞吐與并行訪問(wèn)的需求，NVMe-oF?讓GPU節(jié)點(diǎn)可以遠(yuǎn)程直接訪問(wèn)NVMe SSD，網(wǎng)絡(luò)帶寬匹配PCIe Gen4的帶寬，大幅減少全鏈路的性能瓶頸。

通過(guò)高帶寬順序讀取，縮短模型初始化與數(shù)據(jù)加載時(shí)間，減少GPU的空轉(zhuǎn)時(shí)間，個(gè)個(gè)滿負(fù)荷扛活提升訓(xùn)練效率。

同時(shí)，有西部數(shù)據(jù)自研的NVMe-oF?加速芯片加持，AI節(jié)點(diǎn)訪問(wèn)遠(yuǎn)端NVMe SSD的讀寫(xiě)延遲與本地幾乎一致。

高帶寬順序讀+穩(wěn)定低延遲，可以保證推理服務(wù)時(shí)，AI節(jié)點(diǎn)迅速?gòu)拇鎯?chǔ)加載數(shù)百GB甚至TB級(jí)的模型權(quán)重，縮短推理服務(wù)的“冷啟動(dòng)”時(shí)間。

在超低延遲的前提下，OpenFlex Data24單節(jié)點(diǎn)24塊SSD組成強(qiáng)大的隨機(jī)讀寫(xiě)存儲(chǔ)池，且企業(yè)級(jí)NVMe SSD原生支持多隊(duì)列高IOPS。

這樣，面對(duì)大模型推理多用戶場(chǎng)景下的高頻隨機(jī)訪問(wèn)和高并發(fā)需求，存儲(chǔ)無(wú)壓力。

針對(duì)訓(xùn)推穩(wěn)定性和高可用的需求，OpenFlex Data24可提供雙端口SSD與主動(dòng)故障切換設(shè)計(jì)，確保訪問(wèn)持續(xù)可用、不中斷。

大帶寬高速讀寫(xiě)能力，也可以保證模型訓(xùn)練Checkpoint的快速保存和恢復(fù)。

再加上N+2風(fēng)扇冗余、硬件容錯(cuò)等設(shè)計(jì)，可進(jìn)一步提升訓(xùn)練期間系統(tǒng)穩(wěn)定性。

當(dāng)然，降本增效的大背景下，OpenFlex Data24也為客戶算好了經(jīng)濟(jì)賬。

對(duì)企業(yè)來(lái)講，模型規(guī)模和數(shù)據(jù)集都會(huì)動(dòng)態(tài)增長(zhǎng)，OpenFlex Data24存算解耦，讓存儲(chǔ)可以獨(dú)立擴(kuò)展，并通過(guò)智能緩存和分層存儲(chǔ)，進(jìn)一步平衡成本和效率。

另外，西部數(shù)據(jù)通過(guò)垂直整合設(shè)計(jì)，提供高速NIC、存儲(chǔ)平臺(tái)一站式方案。

降低復(fù)雜度，幫用戶省心省錢(qián)、少踩坑，TCO更優(yōu)。

最后，OpenFlex Data24提供了相當(dāng)優(yōu)秀的能效指標(biāo)：每瓦IOPS↑、每瓦吞吐量↑、每TB能耗↓，堪稱(chēng)行業(yè)領(lǐng)先水平。

這種典型的「高性能密度+優(yōu)化能效比」，為AI智算項(xiàng)目帶來(lái)更優(yōu)的TCO。

就這樣，這場(chǎng)「團(tuán)隊(duì)解散」的會(huì)議，在大家齊聲點(diǎn)贊的氣氛中，愉快地結(jié)束了

把存儲(chǔ)和計(jì)算“解散”，就這么辦！

* 以上故事情節(jié)為虛構(gòu)，僅用于技術(shù)科普與場(chǎng)景舉例，不代表任何真實(shí)客戶情況。