国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

AI內(nèi)存壓縮超83%,谷歌黑科技給存儲巨頭“當頭一棒”

0
分享至



出品|搜狐科技

作者|張雅婷

編輯| 楊 錦

存儲市場的高歌猛進,被谷歌投下的一枚“深水炸彈”驟然打斷。

當?shù)貢r間3月24日,谷歌研究院發(fā)表文章推出以TurboQuant為代表的新一代壓縮算法,宣稱可以在不損失質(zhì)量的前提下實現(xiàn)AI內(nèi)存的極致壓縮,突破了AI發(fā)展的核心瓶頸。

隨著大模型參數(shù)規(guī)模邁向萬億級別,推理過程中鍵值緩存帶來的內(nèi)存壓力暴漲。每一次問答、每一次推理,都需要海量內(nèi)存資源支撐。

OpenAI首席運營官Brad Lightcap此前表示,存儲芯片短缺與美國能源供應緊張,是當前AI基礎設施擴張面臨的兩大潛在瓶頸?!艾F(xiàn)在的瓶頸是存儲,過去是電力?!?/p>

而谷歌最新推出的 TurboQuant 技術,在幾乎不影響模型性能的情況下,可將鍵值緩存壓縮至原來的1/6(約減少 83%),從而顯著緩解內(nèi)存壓力;同時,在英偉達 H100 GPU 上,其性能最高可提升至8倍。

Cloudflare首席執(zhí)行官Matthew Prince認為,谷歌TurboQuant有望像去年的DeepSeek模型一樣,通過效率革新打破算力依賴的行業(yè)邏輯。

這枚“深水炸彈”掀起的沖擊波,迅速傳導至資本市場。存儲巨頭股價集體重挫,恐慌情緒蔓延。美東時間3月26日,閃迪(SanDisk)股價大跌11.02%,美光科技下跌6.97%。


谷歌發(fā)布突破性新算法

當?shù)貢r間3月24日,谷歌發(fā)布了名為TurboQuant的技術,引發(fā)市場震動。

根據(jù)谷歌官方介紹,TurboQuant是一種專為大型語言模型和向量搜索引擎設計的內(nèi)存壓縮技術,核心目標是解決AI系統(tǒng)中鍵值緩存(Key-Value Cache)的存儲瓶頸。

所謂鍵值緩存,可以簡單理解為模型在“做閱讀理解時做的筆記”。當大模型逐字生成內(nèi)容時,會把已經(jīng)處理過的信息存下來,下次就不用從頭再算一遍,從而加快生成速度。不過,這些“筆記”會隨著對話變長不斷累積,占用越來越多的內(nèi)存,最終可能成為推理過程中的主要資源消耗。

向量量化(Vector Quantization)是一種強大的經(jīng)典數(shù)據(jù)壓縮技術。然而,這種傳統(tǒng)的向量量化方法讓每個數(shù)字產(chǎn)生1至2比特的額外內(nèi)存開銷,部分抵消了壓縮收益。

而谷歌提出的TurboQuant,可以在實現(xiàn)模型尺寸大幅縮減的同時保持零精度損失。

具體來看,TurboQuant可在無需模型訓練或微調(diào)的前提下,將鍵值緩存壓縮至3比特,在Gemma、Mistral等開源模型實測中,鍵值內(nèi)存降至1/6(約減少 83%)。在英偉達H100 GPU加速器上,該算法較未量化鍵值方案性能提升最高達8倍。

TurboQuant通過兩個關鍵步驟實現(xiàn)壓縮:首先是采用PolarQuant(高質(zhì)量壓縮)方法,對數(shù)據(jù)向量進行隨機旋轉(zhuǎn)。這一巧妙的步驟簡化了數(shù)據(jù)的幾何結構,實現(xiàn)高質(zhì)量壓縮。

然后,TurboQuant使用極少量的殘余壓縮能力,利用量化Johnson-Lindenstrauss算法充當數(shù)學誤差校驗器,處理第一階段留下的微量誤差,從而獲得更準確的注意力分數(shù)。

谷歌表示,TurboQuant、QJL和PolarQuant雖然主要應用是解決Gemini等模型中的KV緩存瓶頸,但其影響遠不止于此。

當下,搜索正從單純的關鍵詞匹配演變?yōu)槔斫庖鈭D和含義,TurboQuant等技術對于這一使命至關重要。因為它們允許以極小的內(nèi)存、接近零的預處理時間和業(yè)界領先的準確性,來構建和查詢大型向量索引,這使得語義搜索變得更快、更高效。

據(jù)了解,TurboQuant將于ICLR 2026發(fā)表,PolarQuant則計劃在AISTATS 2026上亮相。谷歌已在LongBench、Needle In A Haystack、ZeroSCROLLS、RULER及L-Eval等多項基準測試中完成驗證,并指出該技術同樣適用于大規(guī)模搜索引擎的向量檢索場景。


內(nèi)存股集體大跌

存儲的“DeepSeek時刻”來了?

谷歌TurboQuant技術發(fā)布后,全球存儲芯片板塊震蕩。

美東時間3月26日,閃迪股價大跌11.02%,美光科技下跌6.97%,西部數(shù)據(jù)下跌7.7%,希捷科技下跌8.33%。

韓國存儲巨頭同樣受到重創(chuàng)。當?shù)貢r間3月26日,韓國SK海力士股價下跌6.23%,市值損失44.18萬億韓元(約合293.8億美元);三星電子也下跌了4.71%,市值損失57.83萬億韓元(約合384.5億美元)。3月27日,三星電子和海力士股價仍持續(xù)下跌,跌幅收窄至1%左右。

今日開盤,A股存儲芯片集體大跌,佰維存儲、西測測試跌超7%,江波龍、德明利、香農(nóng)芯創(chuàng)跌超5%。

近兩年,由于AI產(chǎn)業(yè)的爆發(fā),存儲需求隨之暴漲。

以HBM(高帶寬內(nèi)存)為例,這一基于DRAM技術的高端品類,主要面向AI時代高性能計算場景。數(shù)據(jù)顯示,2025年,AI服務器對HBM的需求量從2024年的30萬顆激增至120萬顆,增長率高達300%。

三星電子表示,目前所有可量產(chǎn)的HBM產(chǎn)能均已預訂滿,預計2026年HBM銷量將同比增長超過三倍。

然而,谷歌TurboQuant技術的出現(xiàn),悄然改寫了行業(yè)預期。Cloudflare首席執(zhí)行官Matthew Prince將此次技術突破稱為谷歌的“DeepSeek時刻”,認為其有望像去年的DeepSeek模型一樣,通過效率革新打破算力依賴的行業(yè)邏輯。

此前,DeepSeek橫空出世,因高性能、低成本的高性價比優(yōu)勢,市場認為英偉達算力需求預期將變?nèi)?,導致英偉達一度暴跌。當時,英偉達的股價一天跌幅17%,市值蒸發(fā)了5890億美元。

不過,也有業(yè)內(nèi)人士認為,根據(jù)“杰文斯悖論”,當技術進步提高了效率,資源消耗不僅沒有減少,反而激增。回過頭來看,DeepSeek并沒有讓英偉達芯片的需求減少。

摩根士丹利認為,通過大幅降低單次查詢的服務成本,TurboQuant能夠讓原本只能在云端昂貴集群上運行的模型遷移至本地,有效降低AI規(guī)?;渴鸬拈T檻,這可能反而能進一步提振整體需求。

Quilter Cheviot科技研究主管Ben Barringer認為,近期存儲芯片企業(yè)股價下跌可能是由于股東在周期性市場持續(xù)增長后套現(xiàn)所致?!癟urboQuant的事件加劇了股價下跌的壓力,但這只是漸進式的,而非革命性的,它不會改變行業(yè)的長期需求格局?!?/p>

此外,TechCrunch相關分析指出,該算法存在局限性,這項技術并不能緩解人工智能模型訓練階段所需的大量內(nèi)存問題,因為它只是在推理階段對數(shù)據(jù)進行嚴格的壓縮。



運營編輯 |曹倩審核|孟莎莎




特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
全票當選!官方:文班亞馬當選年度最佳防守球員

全票當選!官方:文班亞馬當選年度最佳防守球員

懂球帝
2026-04-21 06:39:03
MVP選票結果流出??!他居然才1票?。。?!

MVP選票結果流出??!他居然才1票?。。?!

柚子說球
2026-04-20 22:29:11
絕不談判!永久關閉豁免窗口!中國打響光刻機反擊戰(zhàn)

絕不談判!永久關閉豁免窗口!中國打響光刻機反擊戰(zhàn)

阿七說史
2026-04-20 15:10:26
“最難對付的敵人”:周末,真主黨消滅以軍超過一個排!

“最難對付的敵人”:周末,真主黨消滅以軍超過一個排!

勝研集
2026-04-20 18:04:11
NBA官宣:文班亞馬全票首奪DPOY歷史首人+歷史最年輕 創(chuàng)多項紀錄

NBA官宣:文班亞馬全票首奪DPOY歷史首人+歷史最年輕 創(chuàng)多項紀錄

醉臥浮生
2026-04-21 06:00:13
出手扣下兩批軍火,又一個歐洲國家,加入制裁以色列的行列中

出手扣下兩批軍火,又一個歐洲國家,加入制裁以色列的行列中

空天力量
2026-04-20 17:09:18
鄭麗文回應“大陸武統(tǒng)”,作出滿分回答,還給民進黨指了一條明路

鄭麗文回應“大陸武統(tǒng)”,作出滿分回答,還給民進黨指了一條明路

頭條爆料007
2026-04-19 20:27:52
伊朗宣布參加二次和談 黃金V型反彈

伊朗宣布參加二次和談 黃金V型反彈

匯通網(wǎng)
2026-04-20 20:46:04
人民日報聯(lián)合工信部緊急預警:全體iPhone用戶,請立刻升級系統(tǒng)!

人民日報聯(lián)合工信部緊急預警:全體iPhone用戶,請立刻升級系統(tǒng)!

小柱解說游戲
2026-04-19 20:52:59
伊朗籍中國貨輪!在公海被美軍扣押后,不到24小時,中方表態(tài)

伊朗籍中國貨輪!在公海被美軍扣押后,不到24小時,中方表態(tài)

離離言幾許
2026-04-20 22:15:30
“國產(chǎn)降壓王牌藥”終于納入醫(yī)保,不影響肝腎還能降尿酸!

“國產(chǎn)降壓王牌藥”終于納入醫(yī)保,不影響肝腎還能降尿酸!

白宸侃片
2026-04-20 19:04:26
7歲男孩高燒直沖40℃,渾身“黑化”面臨截肢,只因父母一個疏忽……武漢醫(yī)生提醒:這種病早期和感冒很像

7歲男孩高燒直沖40℃,渾身“黑化”面臨截肢,只因父母一個疏忽……武漢醫(yī)生提醒:這種病早期和感冒很像

環(huán)球網(wǎng)資訊
2026-04-20 19:07:08
爭議!趙繼偉慘敗夜發(fā)“呵呵” 自責“想找地縫鉆進去”引熱議

爭議!趙繼偉慘敗夜發(fā)“呵呵” 自責“想找地縫鉆進去”引熱議

醉臥浮生
2026-04-20 22:28:30
微信這個開關不關,你住哪、干啥,別人全知道!快關掉!

微信這個開關不關,你住哪、干啥,別人全知道!快關掉!

侃故事的阿慶
2026-04-18 17:54:13
世錦賽戰(zhàn)報:七連鞭大逆轉(zhuǎn),16強決出8席!中國3勝2負1領先2落后

世錦賽戰(zhàn)報:七連鞭大逆轉(zhuǎn),16強決出8席!中國3勝2負1領先2落后

求球不落諦
2026-04-21 05:57:26
世錦賽戰(zhàn)報:六冠王7-10出局,16強決出7席中國3席!中國冠軍1-8

世錦賽戰(zhàn)報:六冠王7-10出局,16強決出7席中國3席!中國冠軍1-8

求球不落諦
2026-04-21 00:55:34
太遺憾了!張雪機車荷蘭站第7名收場,總積分落后杜卡迪、雅馬哈

太遺憾了!張雪機車荷蘭站第7名收場,總積分落后杜卡迪、雅馬哈

削桐作琴
2026-04-20 16:25:31
睡一覺5萬沒了!全國多地爆發(fā)新型盜刷,睡前必查手機這4處

睡一覺5萬沒了!全國多地爆發(fā)新型盜刷,睡前必查手機這4處

洞見小能手
2026-04-20 16:03:26
詹皇恐怖紀錄加持!湖人火箭G2賽前:東契奇、杜蘭特復出進度更新

詹皇恐怖紀錄加持!湖人火箭G2賽前:東契奇、杜蘭特復出進度更新

錢說體育
2026-04-21 07:19:32
日本軍艦闖臺海后,美國接到通知,中國東海劃5處警戒區(qū),有動作

日本軍艦闖臺海后,美國接到通知,中國東海劃5處警戒區(qū),有動作

說歷史的老牢
2026-04-20 05:04:04
2026-04-21 07:31:00
搜狐科技 incentive-icons
搜狐科技
搜狐科技官方賬號
4775文章數(shù) 7984關注度
往期回顧 全部

科技要聞

重磅官宣:庫克卸任,特努斯接任蘋果CEO

頭條要聞

19歲女孩挪用自家1700萬當"榜一大姐" 親爹帶女兒自首

頭條要聞

19歲女孩挪用自家1700萬當"榜一大姐" 親爹帶女兒自首

體育要聞

阿森納已拼盡全力,但你早干嘛去了...

娛樂要聞

《八千里路云和月》田家泰暗殺

財經(jīng)要聞

利潤暴跌7成,字節(jié)到底在做什么

汽車要聞

把天門山搬進廠?開仰望U8沖上45度坡的那刻 我腿軟了

態(tài)度原創(chuàng)

家居
房產(chǎn)
藝術
公開課
軍事航空

家居要聞

自然慢調(diào) 慢享時光

房產(chǎn)要聞

大規(guī)模商改??!??谖骱0?,這波項目要贏麻了!

藝術要聞

春天最適合小住三五天的地方

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

特朗普:美艦向伊朗貨船開火炸出個洞

無障礙瀏覽 進入關懷版