芯東西（公眾號：aichip001）
編譯 劉煜
編輯 陳駿達(dá)

芯東西4月14日消息，4月12日，據(jù)英國《金融時報(bào)》報(bào)道，多位分析人士稱，谷歌3月25日發(fā)布的可提升內(nèi)存利用效率的TurboQuant算法，非但不會削弱存儲芯片需求，反而將進(jìn)一步推高市場對存儲芯片的整體需求。

上個月，谷歌發(fā)布TurboQuant算法相關(guān)博文后，三星與SK海力士股價一度大幅跳水，引發(fā)了資本市場對存儲芯片的焦慮。

4月7日，三星電子公布的第一季度業(yè)績指引稱，該公司第一季度利潤預(yù)計(jì)將超過去年全年總和，合并營業(yè)利潤約為57.2萬億韓元（約合人民幣2652.75億元），同比增長超755%。這份盈利預(yù)期推動三星股價逼近歷史高點(diǎn)，也一定程度上平息了近兩周因TurboQuant引發(fā)的市場焦慮。

▲圖為三星電子的股價走勢圖（圖源：英國《金融時報(bào)》）

TurboQuant是在AI交互時長增加以及用戶數(shù)量攀升的背景下誕生的。

當(dāng)前，市場對更長上下文、更低成本的AI服務(wù)需求持續(xù)提升，AI服務(wù)面臨的存儲成本壓力持續(xù)加大，而大模型在長上下文推理時會產(chǎn)生大量重復(fù)計(jì)算，鍵值緩存（KV Cache）正是通過復(fù)用歷史計(jì)算結(jié)果降低這類開銷。但緩存本身會占用內(nèi)存資源，于是AI產(chǎn)業(yè)鏈對KV緩存優(yōu)化技術(shù)的需求急劇增長。

而TurboQuant能夠壓縮鍵值緩存，即壓縮ChatGPT、Claude等模型用于保存對話上下文的短期存儲單元，并在需要時對其進(jìn)行重構(gòu)，這個過程中幾乎不會造成明顯的精度損失。

TurboQuant底層算法模塊PolarQuant和QJL的核心研究者、谷歌研究院的客座研究員韓仁洙（Insu Han）稱，該算法“有望成為實(shí)現(xiàn)此前難以完成的高難度任務(wù)的基礎(chǔ)，例如在有限存儲資源下處理更長的上下文且不損失精度，或是在小型設(shè)備上部署高性能AI”。

谷歌稱，TurboQuant能夠降低單token成本，即AI系統(tǒng)處理每單位數(shù)據(jù)所需的算力與存儲開銷。其研究人員稱，該方法可將存儲占用最多削減至原來的六分之一。

但谷歌發(fā)布TurboQuant算法相關(guān)博文后，隨即引發(fā)了市場圍繞高帶寬內(nèi)存（HBM）未來需求的激烈且持續(xù)的爭論。

韓仁洙稱：“我們從未想到，一項(xiàng)源于‘如何更完美地壓縮數(shù)據(jù)’這一學(xué)術(shù)問題的技術(shù)，竟會引發(fā)如此巨大的社會與經(jīng)濟(jì)連鎖反應(yīng)?！?/p>

部分投資者認(rèn)為存儲芯片的繁榮將走向破滅，另一些人則認(rèn)為TurboQuant影響甚微。

有樂觀觀點(diǎn)指出，若該技術(shù)確實(shí)能降低AI成本，只會催生更多AI應(yīng)用需求，進(jìn)而帶動更多芯片需求。

韓國的研究型綜合大學(xué)首爾成均館大學(xué)教授權(quán)錫俊稱：“TurboQuant有望將LLM的運(yùn)行成本降低四至八成。乍看之下，這似乎會沖擊HBM的需求?！钡a(bǔ)充道：“推理成本大幅下降，會解鎖此前因成本過高而無法落地的算力任務(wù)”，例如實(shí)時編碼助手以及多AI Agent并行運(yùn)行等場景，“最終將推動整體算力需求上升，而非下降”。

半導(dǎo)體分析機(jī)構(gòu)SemiAnalysis的王磊說道：“市場很大程度上誤解了TurboQuant。我們始終認(rèn)為，隨著AI模型迭代與技術(shù)創(chuàng)新，無論是訓(xùn)練還是推理環(huán)節(jié)，存儲需求都將持續(xù)增長?！彼€稱，AI服務(wù)商為鎖定供應(yīng)正越來越多地簽訂長期合約，這將緩沖韓國芯片廠商可能面臨的沖擊。

此外，王磊補(bǔ)充道：“受AI需求持續(xù)、快速增長驅(qū)動，存儲芯片行業(yè)的周期性正在減弱，如今合約定價的重要性已超過現(xiàn)貨定價?！?/p>

未來資產(chǎn)證券分析師金英建在研報(bào)中用“似曾相識”類比了谷歌此前推出的容器編排技術(shù)Kubernetes。該技術(shù)可在單臺服務(wù)器上運(yùn)行多個應(yīng)用，大幅提升硬件利用效率。

那是在2010年代末，Kubernetes開始普及，由于該技術(shù)能提高服務(wù)器效率，市場擔(dān)憂企業(yè)用更少資源即可實(shí)現(xiàn)同等業(yè)務(wù)效果，進(jìn)而導(dǎo)致服務(wù)器與存儲需求下滑。但后續(xù)事實(shí)證明，實(shí)際情況與市場預(yù)期恰恰相反，成本下降催生了更廣泛的應(yīng)用落地。

目前，TurboQuant仍停留在博客論文階段。待4月下旬其在巴西舉辦的國際學(xué)習(xí)表征會議（ICLR）正式發(fā)布，且開放對外測試后，其實(shí)際影響才能顯現(xiàn)。該技術(shù)最終能否成功，取決于大型科技企業(yè)能否規(guī)?；涞貞?yīng)用。

結(jié)語：TurboQuant攪動短期估值，訓(xùn)練剛需驅(qū)動HBM長期成長

與TurboQuant提升存儲效率卻可能帶動更大存儲芯片需求的邏輯相似，1865年，經(jīng)濟(jì)學(xué)家威廉?斯坦利?杰文斯在其著作《煤炭問題》中曾指出：詹姆斯?瓦特改良的高效率蒸汽機(jī)并未減少煤炭消耗，反而讓煤炭動力在更多場景具備經(jīng)濟(jì)可行性，最終大幅推高了煤炭的整體使用量。

當(dāng)前行業(yè)對TurboQuant爭論的核心，本質(zhì)或是HBM的需求結(jié)構(gòu)將如何被重新調(diào)整。

著眼存儲芯片市場，短期來看，推理環(huán)節(jié)的HBM使用效率顯著提升，單顆GPU可支持更長上下文，引發(fā)市場對存儲芯片估值的階段性重估。長期來看，訓(xùn)練環(huán)節(jié)仍需高精度HBM支撐千億乃至萬億參數(shù)模型訓(xùn)練。

以TurboQuant為代表的壓縮技術(shù)主要影響推理場景，并不會改變訓(xùn)練側(cè)對高端HBM的核心需求，反而可能推動存儲架構(gòu)向訓(xùn)練側(cè)重容量與帶寬、推理側(cè)重高效利用的方向分化。

不過，TurboQuant等技術(shù)紅利能否真正轉(zhuǎn)化為AI效率提升，關(guān)鍵或取決于大型科技企業(yè)能否將其規(guī)?；涞貞?yīng)用，以及與Chiplet先進(jìn)封裝、CXL內(nèi)存互聯(lián)等技術(shù)是否能協(xié)同融合。