国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

DeepMind內(nèi)部視角揭秘!Scaling Law沒死,算力即一切

0
分享至


新智元報(bào)道

編輯:定慧

【新智元導(dǎo)讀】2025年就要結(jié)束,DeepMind華人研究員萬字長(zhǎng)文為我們揭秘了谷歌內(nèi)部對(duì)于AI的預(yù)言:除了算力,其他一切都是雜音。

今天是2025年的最后一天了,很多人都在這一天進(jìn)行AI回顧總結(jié)。

在經(jīng)歷一年的模型、算力、資本的新聞轟炸后,AI距離通用人工智能還有多遠(yuǎn)?

如果說2024年是人們對(duì)于AI的好奇之年,那么2025年就是AI深刻影響人類社會(huì)之年。

在這充滿變數(shù)的一年里,我們聽到了截然不同的聲音:

Sam Altman在2025年中的博文《溫和的奇點(diǎn)》中大膽預(yù)言:

「我們已經(jīng)知道如何構(gòu)建AGI,2026年我們將看到能夠產(chǎn)生原創(chuàng)見解的系統(tǒng)?!顾麍?jiān)持認(rèn)為,Scaling Law遠(yuǎn)未觸及天花板,智能的成本將隨著電力的自動(dòng)化生產(chǎn)而趨近于零。

拓展閱讀:奧特曼:溫和奇點(diǎn)已降臨!AI最終掌控物理世界,2030年人類命運(yùn)大轉(zhuǎn)折


NVIDIA的黃仁勛則將目光從「算力崇拜」轉(zhuǎn)向了「AI工廠」。

他在2025年底的一次演講中提到:

「AI的瓶頸不再是想象力,而是電力。未來的Scaling Law不僅是模型的堆疊,更是推理效率10萬倍的飛躍?!?/strong>

拓展閱讀:英偉達(dá)AI工廠:人類歷史醞釀12000年的絕對(duì)必然


相比之下,Meta的前首席科學(xué)家Yann LeCun依然嘴炮,他甚至在離職創(chuàng)辦新公司前公開表示:

「LLM是通往 AGI 的死胡同,它沒有世界模型,就像一個(gè)沒有軀體的空中樓閣?!?/strong>

拓展閱讀:LeCun賭上后半生,押注大模型必死!Hassabis誓將Scaling進(jìn)行到底


2026年,Scaling Law是否還能繼續(xù)玩下去?

對(duì)于這個(gè)問題,一篇來自DeepMind華人研究員的萬字長(zhǎng)文在社交網(wǎng)絡(luò)火了:

Scaling Law沒死!算力依然就是正義,AGI才剛剛上路。


文章地址:https://zhengdongwang.com/2025/12/30/2025-letter.html

本文是Google DeepMind研究員Zhengdong Wang撰寫的2025年度長(zhǎng)信。

作者以獨(dú)特的個(gè)人視角,回顧了從2015年至今AI領(lǐng)域的劇變,并深刻剖析了驅(qū)動(dòng)這一切的核心動(dòng)力——算力

盡管外界對(duì)Scaling Laws存疑,但歷史反復(fù)證明,隨著算力的指數(shù)級(jí)增長(zhǎng),AI模型不斷涌現(xiàn)出超越人類預(yù)期的能力。

作者結(jié)合自己在DeepMind的工作經(jīng)歷,驗(yàn)證了強(qiáng)化學(xué)習(xí)教父Richard S. Sutton「苦澀的教訓(xùn)」:

通用算力方法終將戰(zhàn)勝人類的特定技巧。


這也是我們今年最大的感受!

除了算力,其他都是雜音

2025年12月30日,當(dāng)回望這波瀾壯闊的一年時(shí),腦海中浮現(xiàn)的是十五年前那場(chǎng)由AlexNet開啟的視覺革命。

那場(chǎng)辛頓、李飛飛、Ilya都參與的大會(huì),或許就是如今AI時(shí)代的真正萌芽。


那時(shí),大多數(shù)人認(rèn)為人工智能僅僅是關(guān)于「特征工程」和「人類聰明才智」的博弈,而今天,我們已經(jīng)進(jìn)入了一個(gè)完全不同的維度:

一個(gè)由算力主導(dǎo)、由Scaling Law驅(qū)動(dòng)、且AGI(通用人工智能)才剛剛踏上征途的紀(jì)元。

最近大家關(guān)注的焦點(diǎn)無外乎:Scaling Law是否已經(jīng)撞墻?

算力的信仰:為什么Scaling Law從未失效

在2024年底,業(yè)內(nèi)曾出現(xiàn)過一陣強(qiáng)烈的悲鳴,認(rèn)為預(yù)訓(xùn)練數(shù)據(jù)的枯竭和邊際收益的遞減標(biāo)志著Scaling Law的終結(jié)。

然而,站在2025年的終點(diǎn),我們可以負(fù)責(zé)任地說:

Scaling Law不僅沒死,它正在經(jīng)歷一場(chǎng)從「暴力堆參數(shù)」到「智能密度」的深刻演化。

十五年一遇的連續(xù)性

我們要理解Scaling Law,首先要看到它的歷史韌性。

研究顯示,過去十五年里,用于訓(xùn)練AI模型的算力每年以四到五倍的速度增長(zhǎng)。

這種指數(shù)級(jí)的復(fù)合增長(zhǎng),在人類技術(shù)史上是罕見的。

在DeepMind內(nèi)部觀察到,模型在訓(xùn)練過程中所消耗的數(shù)學(xué)運(yùn)算量,已經(jīng)超過了可觀測(cè)宇宙中的恒星數(shù)量。

這種增長(zhǎng)并非盲目,而是建立在極其穩(wěn)定的經(jīng)驗(yàn)公式之上。

根據(jù)Kaplan和Hoffmann等人的實(shí)證研究,性能與算力之間存在著明確的冪律關(guān)系:性能提升與算力的0.35次方成正比。


文章地址:https://fourweekmba.com/ai-compute-scaling-the-50000x-explosion-2020-2025/

這意味著,每投入10倍的算力,大約能帶來3倍的性能增益;而當(dāng)我們跨越1000倍的算力鴻溝時(shí),性能的提升將達(dá)到驚人的10倍量級(jí)。

定性躍遷與涌現(xiàn)能力

Scaling Law最迷人的一點(diǎn)在于,它不僅帶來了定量的誤差減少,更誘發(fā)了不可預(yù)測(cè)的定性躍遷。

在DeepMind的實(shí)驗(yàn)中,隨著算力的增加,模型會(huì)突然展現(xiàn)出邏輯推理、復(fù)雜指令遵循以及事實(shí)性修正等「涌現(xiàn)能力」。

這種現(xiàn)象意味著,算力不僅僅是燃料,它本身就是一種能夠催生智能的物理量。

2025年的真相是:我們已經(jīng)從單純的「預(yù)訓(xùn)練Scaling」轉(zhuǎn)向了「全四個(gè)維度Scaling」:


  1. 預(yù)訓(xùn)練Scaling

    通過海量多模態(tài)數(shù)據(jù)構(gòu)建基礎(chǔ)認(rèn)知。

  2. 后訓(xùn)練Scaling

    利用強(qiáng)化學(xué)習(xí)(RL)進(jìn)行對(duì)齊和偏好優(yōu)化。

  3. 推理時(shí)Scaling

    即讓模型在回答前「想得更久」。

  4. 上下文Scaling

    通過超長(zhǎng)記憶提升端到端任務(wù)能力。

在DeepMind親歷的「1000倍算力」瞬間

如果說Scaling Law是宏觀的哲學(xué),那么2021年Zhengdong Wang在DeepMind經(jīng)歷的那次實(shí)驗(yàn),就是微觀的啟示錄。

那次經(jīng)歷徹底重塑了Zhengdong Wang的「智能觀」,也讓Zhengdong Wang理解了為什么說「算力即正義」。

算法聰明才智的貶值

當(dāng)時(shí),DeepMind團(tuán)隊(duì)正在嘗試解決具身智能(Embodied AI)在3D虛擬環(huán)境中的導(dǎo)航與交互問題。

那是典型的「硬核AI」挑戰(zhàn),涉及到復(fù)雜的強(qiáng)化學(xué)習(xí)算法優(yōu)化。

當(dāng)時(shí)的共識(shí)是:這個(gè)問題的瓶頸在于算法的精妙程度,在于我們?nèi)绾卧O(shè)計(jì)更優(yōu)的采樣策略和獎(jiǎng)勵(lì)函數(shù)。

然而,一位同事提出了一個(gè)近乎「魯莽」的方案:不要改算法,直接把算力投入增加一千倍。

在那次算力狂飆之后,奇跡發(fā)生了!

那些原本被認(rèn)為需要突破性人類巧思才能解決的邏輯死角,在海量的矩陣乘法面前直接「融化」了。

算法并沒有變聰明,但規(guī)模賦予了它一種類似于生物本能的魯棒性。

算力之波的沖擊

那一刻,Zhengdong Wang深刻體會(huì)到了理查德·薩頓(Richard Sutton)在《苦澀的教訓(xùn)》中所表達(dá)的真理:

人類在AI領(lǐng)域的所謂「巧思」,在算力的指數(shù)增長(zhǎng)面前往往不值一提。

這種realization就像是一股巨大的「算力之波」從你身上碾過,讓你意識(shí)到,與其苦思冥想如何優(yōu)化那1%的算法效率,不如直接去擁抱那1000倍的算力擴(kuò)張。

這種視角在2025年的今天已經(jīng)成為了DeepMind內(nèi)部的通用語:

我們不再問「這個(gè)問題能不能解」,而是問「這個(gè)問題需要多少算力才能解」。

正是這種心態(tài),讓我們敢于在數(shù)據(jù)中心投資上砸下遠(yuǎn)超阿波羅計(jì)劃的重金。

基礎(chǔ)設(shè)施的極限與挑戰(zhàn):1GW時(shí)代的到來

Zhengdong Wang還提供了額外的視角。

當(dāng)DeepMind在內(nèi)部討論算力時(shí),話題已經(jīng)從「PFLOPS」轉(zhuǎn)向了「GW」。


2025年,AI不再僅僅是代碼,它是重工業(yè),是土地、能源和定制硅基芯片的終極整合。

硬件的代際跨越:Blackwell與Ultra

這種終極整合,用一個(gè)詞概括就是「AI工廠」,正是黃仁勛在GTC大會(huì)所提出的概念。


Wang認(rèn)為,NVIDIA在2025年交付的Blackwell平臺(tái),是DeepMind能夠維持Scaling Law信仰的物理基礎(chǔ)。

GB200 NVL72系統(tǒng)將72顆GPU互聯(lián)為一個(gè)單一的超級(jí)計(jì)算引擎,其萬億參數(shù)模型的推理速度比H100提升了30倍。


BlackwellUltra的推出更是將單芯片顯存推向了288GB的極限,這意味著即使是300B以上的模型,也可以在不需要顯存卸載的情況下完整駐留,這對(duì)于長(zhǎng)上下文和高并發(fā)推理至關(guān)重要。

電力與散熱的硬墻

然而,物理定律依然嚴(yán)苛。

單芯片功耗逼近1000W,讓DeepMind不得不全面轉(zhuǎn)向液冷方案。

2025年,開始談?wù)摗窤I工廠」而非「數(shù)據(jù)中心」。

谷歌的基礎(chǔ)設(shè)施首席執(zhí)行官Amin Vahdat在內(nèi)部會(huì)議中明確指出,為了滿足爆發(fā)式的算力需求,我們必須每六個(gè)月將算力能力翻倍,并在未來4-5年內(nèi)實(shí)現(xiàn)1000倍的增長(zhǎng)。


這種壓力不僅體現(xiàn)在金錢上。

2025年上半年,AI數(shù)據(jù)中心投資占據(jù)了美國(guó)GDP增長(zhǎng)的90%以上。

盡管外界擔(dān)心泡沫,但DeepMind內(nèi)部的視角是:

如果你能看到1000倍算力帶來的智能紅利,那么任何低于這個(gè)數(shù)字的投入都是一種風(fēng)險(xiǎn)。

具身智能的突破:SIMA 2與通用Agent的誕生

在DeepMind,始終認(rèn)為AGI的終極形態(tài)不在對(duì)話框里,而在物理世界中。

2025年,SIMA 2項(xiàng)目展示了從「理解」到「行動(dòng)」的跨越。


像素級(jí)交互與開放式學(xué)習(xí)

SIMA 2是一個(gè)通用的具身智能體,它不依賴于游戲內(nèi)部的數(shù)據(jù)接口,而是像人類一樣,通過觀察像素和操作鍵盤鼠標(biāo)在復(fù)雜的3D虛擬世界中行動(dòng)。

這種設(shè)計(jì)確保了它所習(xí)得的技能——從基礎(chǔ)的導(dǎo)航到復(fù)雜的工具使用——具有極強(qiáng)的泛化性,可以無縫遷移到完全不同的數(shù)字環(huán)境,甚至為未來的物理機(jī)器人提供大腦。

更重要的是,SIMA 2展示了「自我進(jìn)化」的能力。

通過與Gemini基礎(chǔ)模型的結(jié)合,它可以自主生成任務(wù)、自我設(shè)定獎(jiǎng)勵(lì),并在沒有任何人類標(biāo)注的情況下,通過不斷的嘗試和錯(cuò)誤習(xí)得新技能。

擴(kuò)展閱讀:我的王者榮耀有救了!谷歌發(fā)布游戲SIMA 2,不開外掛「像人一樣」練級(jí)


METR時(shí)間跨度圖:智能的量化加速

在評(píng)估進(jìn)展時(shí),作者最推崇的是METR的時(shí)間跨度圖。


兩年前,AI只能穩(wěn)定完成人類耗時(shí)9分鐘的任務(wù);而到了2025年底,這個(gè)數(shù)字已經(jīng)躍升到了4小時(shí)以上。

按照目前的Scaling趨勢(shì),到2028年,AI有望獨(dú)立完成人類專家需要數(shù)周才能完成的科研或工程任務(wù)。

AGI才剛剛上路,正處于爆發(fā)的前夜

在結(jié)尾,Zhengdong Wang寫道:「這就是我上車的地方——我們現(xiàn)在還極其早?!?。

盡管2025年我們已經(jīng)看到了能過IMO的金牌模型,看到了能自主在3D世界中生存的Agent,但在DeepMind的「Post-AGI」團(tuán)隊(duì)看來,這僅僅是序幕。

我們依然受困于1GW的電力瓶頸,受困于數(shù)據(jù)采集的效率,受困于推理成本的最后幾美分。

AGI不是終點(diǎn),而是起點(diǎn)!

DeepMind之所以成立Post-AGI團(tuán)隊(duì),是因?yàn)轭A(yù)見到:

當(dāng)AGI的門檻被跨過那一刻,人類社會(huì)真正需要面對(duì)的挑戰(zhàn)才剛剛開始:


  • 如何管理那些能夠自主進(jìn)化、且由于算力規(guī)模而產(chǎn)生「不可解釋性」的智能體?

  • 在一個(gè)智能成本趨近于零的世界里,人類的獨(dú)特價(jià)值如何重構(gòu)?

  • 當(dāng)AI開始主導(dǎo)科學(xué)研發(fā)的循環(huán),人類文明的知識(shí)邊界將以何種速度擴(kuò)張?



2025年的真相是,Scaling Law不僅是通往AGI的路徑,它本身就是一種重塑物理世界的哲學(xué)。

那些還在爭(zhēng)論泡沫的人,或許還沒意識(shí)到,這股由1000倍算力卷起的風(fēng)暴,已經(jīng)將人類送往了一個(gè)再也回不去的紀(jì)元。

對(duì)于AI的擁躉,所有人正滿懷敬畏地看著那列名為「智能」的火車加速駛向遠(yuǎn)方。

我們并非在等待奇跡,我們正在親手塑造它。

AGI,才剛剛上路。

參考資料:

https://zhengdongwang.com/2025/12/30/2025-letter.html

秒追ASI

?點(diǎn)贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點(diǎn)亮星標(biāo),鎖定新智元極速推送!


特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
她白手起家賺了800億,因崇拜許家印投資房地產(chǎn),結(jié)果負(fù)債469億!

她白手起家賺了800億,因崇拜許家印投資房地產(chǎn),結(jié)果負(fù)債469億!

夢(mèng)史
2026-01-10 10:29:53
范某為啥強(qiáng)硬索要王莉獎(jiǎng)金?知情教練:覺得機(jī)會(huì)是他給的換誰都行

范某為啥強(qiáng)硬索要王莉獎(jiǎng)金?知情教練:覺得機(jī)會(huì)是他給的換誰都行

楊華評(píng)論
2026-01-10 20:32:53
王亞平的安保:吃飯要檢測(cè),出門配警衛(wèi),這種“副國(guó)級(jí)”待遇是不是小題大作?

王亞平的安保:吃飯要檢測(cè),出門配警衛(wèi),這種“副國(guó)級(jí)”待遇是不是小題大作?

歷史回憶室
2026-01-06 15:54:12
夫妻來杭州旅游,在咖啡館因行程安排大吵一架,51歲妻子氣到胸痛緊急送醫(yī),情況十分危急……

夫妻來杭州旅游,在咖啡館因行程安排大吵一架,51歲妻子氣到胸痛緊急送醫(yī),情況十分危急……

都市快報(bào)橙柿互動(dòng)
2026-01-11 16:15:43
不走了!曝國(guó)安續(xù)約37歲老將,下賽季再戰(zhàn)工體,球迷意外

不走了!曝國(guó)安續(xù)約37歲老將,下賽季再戰(zhàn)工體,球迷意外

體壇鑒春秋
2026-01-11 13:21:33
官方通報(bào)“亞運(yùn)冠軍遭索要獎(jiǎng)金”調(diào)查結(jié)果

官方通報(bào)“亞運(yùn)冠軍遭索要獎(jiǎng)金”調(diào)查結(jié)果

第一財(cái)經(jīng)資訊
2026-01-10 23:46:34
西超杯決賽前瞻|巴薩3-0皇馬:復(fù)仇皇馬,巴薩力爭(zhēng)衛(wèi)冕

西超杯決賽前瞻|巴薩3-0皇馬:復(fù)仇皇馬,巴薩力爭(zhēng)衛(wèi)冕

體育世界
2026-01-11 14:30:57
為什么全國(guó)人民都在拒接電話?連10086打來也是瞄一眼就掛掉了!

為什么全國(guó)人民都在拒接電話?連10086打來也是瞄一眼就掛掉了!

今朝牛馬
2026-01-08 16:05:10
叛徒就在自己身邊,特朗普氣炸!轉(zhuǎn)身大談中俄,連說兩個(gè)“必須”

叛徒就在自己身邊,特朗普氣炸!轉(zhuǎn)身大談中俄,連說兩個(gè)“必須”

青煙小先生
2026-01-11 16:10:51
莫蘭特交易價(jià)值相比吹楊如何?差不多吧 都換不到選秀權(quán)或年輕人

莫蘭特交易價(jià)值相比吹楊如何?差不多吧 都換不到選秀權(quán)或年輕人

畫夕
2026-01-11 16:31:09
快船98-92逆轉(zhuǎn)活塞 球員評(píng)價(jià):2人滿分,4人及格,3人低迷

快船98-92逆轉(zhuǎn)活塞 球員評(píng)價(jià):2人滿分,4人及格,3人低迷

籃球資訊達(dá)人
2026-01-11 11:15:35
四川成都|網(wǎng)約車在線10小時(shí)流水246元!非不要,不要經(jīng)營(yíng)網(wǎng)約車!

四川成都|網(wǎng)約車在線10小時(shí)流水246元!非不要,不要經(jīng)營(yíng)網(wǎng)約車!

娛樂督察中
2026-01-11 12:10:21
正式回歸?CBA頂級(jí)外援或加盟北控男籃,全力沖擊季后賽

正式回歸?CBA頂級(jí)外援或加盟北控男籃,全力沖擊季后賽

體壇瞎白話
2026-01-11 08:28:59
聯(lián)合國(guó)對(duì)美下達(dá)通牒!30億欠費(fèi)不交就剝奪投票權(quán),特朗普如何收?qǐng)?>
    </a>
        <h3>
      <a href=古史青云啊
2026-01-11 16:13:04
烏專家:中國(guó)“吸干”蘇聯(lián)遺產(chǎn),我們圖紙都沒看懂,他們?cè)斐?.0

烏專家:中國(guó)“吸干”蘇聯(lián)遺產(chǎn),我們圖紙都沒看懂,他們?cè)斐?.0

博覽歷史
2025-12-29 19:26:45
刮一個(gè)穴位,把肝膽里面的瘀滯排干凈,還能治難言之隱!!

刮一個(gè)穴位,把肝膽里面的瘀滯排干凈,還能治難言之隱?。?/a>

神奇故事
2025-12-13 23:55:36
董璇為老公慶生大合照曝光!與岳父母穿親子裝,佟麗婭夫婦驚喜出鏡

董璇為老公慶生大合照曝光!與岳父母穿親子裝,佟麗婭夫婦驚喜出鏡

今古深日?qǐng)?bào)
2026-01-10 12:16:03
傅首爾的困境有多難解?一露頭就全網(wǎng)抵制,她不再被網(wǎng)友寬容了?

傅首爾的困境有多難解?一露頭就全網(wǎng)抵制,她不再被網(wǎng)友寬容了?

小熊侃史
2026-01-09 07:35:03
委內(nèi)瑞拉人民的好日子來了!美國(guó)將進(jìn)一步解除制裁

委內(nèi)瑞拉人民的好日子來了!美國(guó)將進(jìn)一步解除制裁

一種觀點(diǎn)
2026-01-11 16:19:35
伊朗流亡王儲(chǔ)向警察軍人喊話:保護(hù)人民,不要隨這艘船一起沉沒

伊朗流亡王儲(chǔ)向警察軍人喊話:保護(hù)人民,不要隨這艘船一起沉沒

通往遠(yuǎn)方的路
2026-01-09 10:17:26
2026-01-11 17:12:49
新智元 incentive-icons
新智元
AI產(chǎn)業(yè)主平臺(tái)領(lǐng)航智能+時(shí)代
14311文章數(shù) 66452關(guān)注度
往期回顧 全部

科技要聞

“我們與美國(guó)的差距也許還在拉大”

頭條要聞

西安小伙騎小黃車抵達(dá)三亞:29天騎行3500公里瘦20斤

頭條要聞

西安小伙騎小黃車抵達(dá)三亞:29天騎行3500公里瘦20斤

體育要聞

詹皇曬照不滿打手沒哨 裁判報(bào)告最后兩分鐘無誤判

娛樂要聞

網(wǎng)友偶遇賈玲張小斐崇禮滑雪

財(cái)經(jīng)要聞

外賣平臺(tái)"燒錢搶存量市場(chǎng)"迎來終局?

汽車要聞

2026款宋Pro DM-i長(zhǎng)續(xù)航補(bǔ)貼后9.98萬起

態(tài)度原創(chuàng)

教育
時(shí)尚
家居
旅游
藝術(shù)

教育要聞

美國(guó)中考題,中國(guó)小學(xué)生口算

朱珠美上熱搜的老錢風(fēng)穿搭,太值得借鑒了!

家居要聞

木色留白 演繹現(xiàn)代自由

旅游要聞

昆侖有什么好,讓神仙都搶著落戶大西北?

藝術(shù)要聞

引爆期待!275米,東莞第四高樓封頂!

無障礙瀏覽 進(jìn)入關(guān)懷版