11月4日，由中國信息通信研究院組織召開的“存力中國行”北京站在信通院順利舉行?；顒油ㄟ^座談會和實地調(diào)研的形式，深入探討AI時代下先進存力賦能AI大模型發(fā)展的支撐作用。

中國信息通信研究院首席專家石友康出席研討會并致辭，中國信息通信研究院云大所總工程師郭亮主持。中國移動云能力中心項目總師周宇，華為數(shù)據(jù)存儲產(chǎn)品線戰(zhàn)略與業(yè)務(wù)發(fā)展部總裁王旭東，北京硅基流動科技有限公司解決方案總監(jiān)唐安波發(fā)表主題演講。

當前，AI推理在各行各業(yè)大規(guī)模使用，大模型數(shù)量開始收斂，推理應(yīng)用快速增長，Token調(diào)用量爆發(fā)式增長，推理成本持續(xù)攀升。進入“大模型落地元年”，各行各業(yè)不再滿足于擁有一個龐大的模型，而是迫切需要將模型能力無縫融入到實際業(yè)務(wù)場景中，如投研分析、卷宗分析、智能客服、醫(yī)療影像輔助診斷等。這些場景對Token的消耗越來越大，特別是在AI推理的性能指標中，都是以“Token數(shù)”為量綱。AI的到來意味著“Token經(jīng)濟”的時代也到來了。近兩年AI技術(shù)快速發(fā)展，當前雖已在文檔處理等場景體現(xiàn)價值，但仍需解決推理效率、存力等突出問題，而存儲對大模型訓練與推理效果至關(guān)重要。

座談會上，石友康深刻闡述了當前AI規(guī)?；瘧?yīng)用推進，推理環(huán)節(jié)的成本、效率、質(zhì)量問題凸顯，先進存力成為提升AI推理效能、控制成本的關(guān)鍵。當前，國家高度重視先進存力發(fā)展，在《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》等政策中明確提出“加速存力技術(shù)研發(fā)應(yīng)用”、“持續(xù)提升存儲產(chǎn)業(yè)能力”、“推動存算網(wǎng)協(xié)同發(fā)展”，為產(chǎn)業(yè)發(fā)展指明了方向。信通院在政策研究、標準制定、測試服務(wù)等方面開展多項工作，并聯(lián)合產(chǎn)業(yè)鏈企業(yè)成立“算力產(chǎn)業(yè)發(fā)展方陣先進存力AI推理工作組”，同時提出了三點建議：鼓勵前沿存儲技術(shù)研發(fā)創(chuàng)新，推動存算運深度融合，加強存算協(xié)同產(chǎn)業(yè)生態(tài)建設(shè)，呼吁業(yè)界同仁凝聚共識，共同推動我國存算協(xié)同發(fā)展。

周宇分享了面向推理的存儲技術(shù)趨勢與實踐，圍繞推理挑戰(zhàn)、存儲破局及趨勢判斷展開。當前推理面臨KVCache存儲需求升級、多模態(tài)數(shù)據(jù)協(xié)同、存算協(xié)同帶寬不足、負載潮汐性及成本控制等挑戰(zhàn)。移動云針對性采用分層緩存調(diào)度、高速數(shù)據(jù)互聯(lián)技術(shù)提升帶寬、多模數(shù)據(jù)專屬存儲與標準化、架構(gòu)池化重組等技術(shù)破局，還通過高密全閃存儲、數(shù)據(jù)縮減、自研SPU高密服務(wù)器提高存儲效能和降低成本。未來趨勢上，移動云推動存儲從被動存儲轉(zhuǎn)向智算協(xié)同，分階段落地高密全閃存儲、數(shù)據(jù)高速互聯(lián)、存算一體等技術(shù)，長遠構(gòu)建池化多體存儲體系，同時強調(diào)技術(shù)整合與生態(tài)協(xié)同。

王旭東介紹了AI時代，IT基礎(chǔ)設(shè)施能力面臨三大挑戰(zhàn)：“管不好” 的數(shù)據(jù)、“喂不飽” 的算力、“降不下”的成本。推理數(shù)據(jù)來源多樣難以形成高質(zhì)量、可持續(xù)供應(yīng)的數(shù)據(jù)集，存儲系統(tǒng)的帶寬和IOPS（每秒讀寫次數(shù)）不足，導致GPU等昂貴算力資源長時間空閑。傳統(tǒng)存儲架構(gòu)難以兼顧高吞吐、低時延及異構(gòu)數(shù)據(jù)融合的需求，造成業(yè)務(wù)發(fā)展瓶頸，阻礙AI應(yīng)用落地。華為針對AI推理訓練研發(fā)的UCM推理記憶數(shù)據(jù)管理技術(shù)在行業(yè)落地中的核心作用，通過“集中高質(zhì)數(shù)據(jù)、提速AI訓練、優(yōu)化推理效能”三個角度，打造AI推理加速解決方案。

唐安波在會上圍繞大模型推理“推不動、推得慢、推得貴”問題展開分享，硅基流動構(gòu)建的AI infra工具鏈，核心推理框架適配多模態(tài)模型與國內(nèi)外算力，適配昇騰并優(yōu)化DeepSeek模型實現(xiàn)性價比提升。從推理框架延伸至MaaS服務(wù)平臺，部署主流開源模型，通過推理加速和API向開發(fā)者提供服務(wù)，聚焦提升算力利用率。解決方案上，結(jié)合UCM技術(shù)卸載KVCache釋放顯存、提升性能，還通過智能網(wǎng)關(guān)優(yōu)化調(diào)度、彈性擴縮容應(yīng)對長上下文等痛點，基于存儲的KVCache方案可大幅提升系統(tǒng)吞吐。

座談會后，與會專家走進科大訊飛、華為北京研究所達芬奇展廳，實地調(diào)研存力技術(shù)如何促進AI推理應(yīng)用、AI推理框架、先進存力和智能算力協(xié)同發(fā)展，助力AI普惠應(yīng)用，推動我國存儲產(chǎn)業(yè)高質(zhì)量發(fā)展。