国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

Meta億元天團(tuán)首個(gè)大模型交卷!耗時(shí)九個(gè)月,一雪Llama前恥

0
分享至

再見了,所有的羊駝。

亞歷山大王帶隊(duì)9個(gè)月從零重構(gòu)Meta所有AI技術(shù)棧,在不斷的質(zhì)疑中交出超級(jí)智能實(shí)驗(yàn)室第一個(gè)模型:

主打原生多模態(tài)的Muse Spark。



模型發(fā)布后,Meta股價(jià)火速拉升約7%,中間一度漲超近10%,當(dāng)日整體上漲6%左右。

市場(chǎng)的反應(yīng)可謂相當(dāng)熱烈。

隨手一扒你就會(huì)發(fā)現(xiàn),這款模型背后藏著不少我們熟悉的高手:思維鏈作者Jason Wei、o1核心貢獻(xiàn)者Hyung Won Chung、被小扎天價(jià)挖來的余家輝、擴(kuò)散模型核心人物宋飏……

嗯?當(dāng)這群人湊在一起,很明顯你就會(huì)找到一個(gè)關(guān)鍵詞:推理。

沒錯(cuò),據(jù)Jason Wei爆料,9個(gè)月前他們坐在一起討論時(shí),首先寫下的就是一款用于推理的llama模型腳本,而現(xiàn)在,完全體終于誕生。

而頂尖高手+耗時(shí)9個(gè)月打磨,Muse Spark也總算讓Meta在第三方測(cè)評(píng)中趕上第一梯隊(duì),一雪llama 4帶來的前恥。



而且很有意思的一點(diǎn)是,Meta這次一反常態(tài),沒有反復(fù)強(qiáng)調(diào)自己拿了多少SOTA,而是稍顯克制地表示:

Muse Spark在多模態(tài)感知、推理、健康和自主任務(wù)方面表現(xiàn)不錯(cuò),但在編程長(zhǎng)時(shí)間自主運(yùn)行方面仍與對(duì)家的頂尖模型存在差距。

咳咳,看來之前l(fā)lama 4確實(shí)給Meta留下了心理陰影(doge)。

另外,Muse Spark的出生也終于讓長(zhǎng)期以來有關(guān)“Meta開閉源”的討論蓋棺定論:

這次是真閉源了

目前這款模型已上線Meta網(wǎng)站和APP,API僅向部分合作伙伴開放。

(不過亞歷山大王還是留了個(gè)口子,表示“計(jì)劃未來開源后續(xù)版本”)

“Meta回來了”

老規(guī)矩,先看一波測(cè)評(píng)成績(jī)。



作為Meta迄今最強(qiáng)大的模型,Muse Spark這次主要在三個(gè)方面表現(xiàn)突出:

一是多模態(tài)理解能力。

不管是看論文圖表還是屏幕,各項(xiàng)得分要么第一、要么和Gemini 3.1 Pro、GPT 5.4等不相上下。

從網(wǎng)友們的測(cè)試來看,它好像尤為擅長(zhǎng)圖片轉(zhuǎn)代碼。



當(dāng)然文本能力也不差(doge),在網(wǎng)友的激情測(cè)試中,它就火速通過了新版弱智吧風(fēng)格的洗車測(cè)試。

100米外有個(gè)洗車店,我該開車去還是走路去。
Muse Spark:洗車當(dāng)然要把車開過去,但沒必要搞得跟上下班通勤似的。

(當(dāng)然也不排除是數(shù)據(jù)污染的問題,畢竟問題出來也挺久了…)



再一個(gè)就是工具調(diào)用能力,測(cè)評(píng)情況也和多模態(tài)理解能力類似。

以及這次Muse Spark著重強(qiáng)調(diào)的醫(yī)學(xué)能力。

由于和1000+醫(yī)生展開了合作,它不僅在開放式健康問答HealthBench Hard上拿到42.8的最高分,而且在多模態(tài)醫(yī)學(xué)問答MedXpertQA MM中位居前列。

不過短板我們開頭也說了,Muse Spark仍在編程和Agent類任務(wù)上與其他頂尖選手存在差距。

可能也是為了盡量彌補(bǔ)這一點(diǎn),他們這次還專門推出了Contemplating沉思模式。

主要是讓多個(gè)Agent同時(shí)思考同一個(gè)問題,然后匯總結(jié)果找出最好的。

在這套打法下,Muse Spark就能和Gemini Deep Think、 GPT Pro這類極限推理模式展開正面PK了。

比如在“人類最后的考試”中,Muse Spark明顯壓過一頭(不過在物理奧賽理論題中還是略遜一籌)。

(目前沉思模式正在Meta網(wǎng)站灰度測(cè)試)



另外值得一提的是,Meta這次無(wú)預(yù)告直接上線了“購(gòu)物模式”。

亞歷山大王表示,模型會(huì)結(jié)合用戶在ins、Facebook、Threads上關(guān)注的創(chuàng)作者和品牌偏好,做個(gè)性化的購(gòu)物推薦。

好好好,這次也不給你討論的機(jī)會(huì)了,之前OpenAI可沒少因?yàn)閺V告挨罵。



目前,隨著Muse Spark測(cè)評(píng)一同出爐的,還有第三方機(jī)構(gòu)的測(cè)評(píng)。

他們拿到Muse Spark的早期訪問權(quán)測(cè)了一波,然后給出了一個(gè)結(jié)論:Meta回來了!

在關(guān)鍵指標(biāo)人工智能分析指數(shù)上,其得分僅次于Gemini 3.1 Pro、GPT-5.4和Claude Opus 4.6。



這也和Muse Spark自己給出的測(cè)評(píng)成績(jī)差不多。

對(duì)外界而言,初步來看,Muse Spark確實(shí)把Meta重新帶回了人工智能第一梯隊(duì)。

背后訓(xùn)練細(xì)節(jié)

至于Muse Spark是如何做到這一點(diǎn)的,Meta也公布了背后的訓(xùn)練細(xì)節(jié)。

核心其實(shí)就是亞歷山大王提到的:9個(gè)月重構(gòu)一切

新的基礎(chǔ)設(shè)施、新的架構(gòu)、新的數(shù)據(jù)管道。



具體可以看網(wǎng)友給大家劃的重點(diǎn):

  • 在預(yù)訓(xùn)練階段,能夠以比Llama 4 少10倍以上的計(jì)算量達(dá)到相同的性能水平。
  • 強(qiáng)化學(xué)習(xí)訓(xùn)練展現(xiàn)出平滑且可預(yù)測(cè)的改進(jìn),具有良好的泛化能力和可擴(kuò)展性。
  • Test-time階段,在加入長(zhǎng)度懲罰機(jī)制后,“思維壓縮”開始生效,模型學(xué)會(huì)了用更少的token解決問題。



Meta在博客中介紹,過去9個(gè)月,他們對(duì)Muse Spark的預(yù)訓(xùn)練技術(shù)棧進(jìn)行了全面升級(jí)。

所有改進(jìn)的目標(biāo),都是為了讓每一分算力都能產(chǎn)生更大的價(jià)值。

為了驗(yàn)證效果,他們做了一個(gè)對(duì)比實(shí)驗(yàn):先用一系列小模型擬合出一條“算力-能力”的Scaling曲線,然后計(jì)算要達(dá)到某個(gè)性能水平具體需要多少算力。

結(jié)果發(fā)現(xiàn),相比Llama 4,Muse Spark達(dá)到同樣水平所需要的計(jì)算量低了一個(gè)數(shù)量級(jí)以上(10.3倍)。



預(yù)訓(xùn)練完成后,他們進(jìn)一步用強(qiáng)化學(xué)習(xí)來提升模型能力。

雖然大規(guī)模RL訓(xùn)練通常很不穩(wěn)定,但他們聲稱自己的新架構(gòu)做到了“穩(wěn)中有進(jìn)”。

如下圖所示,隨著RL訓(xùn)練步數(shù)增加,模型在訓(xùn)練數(shù)據(jù)上的成功率(無(wú)論是單次嘗試還是16次中至少成功一次)呈現(xiàn)對(duì)數(shù)線性增長(zhǎng)。

這說明,RL在提升可靠性的同時(shí),沒有破壞推理的多樣性。

而且在模型從未見過的任務(wù)上,準(zhǔn)確率同樣在穩(wěn)步提升——這說明RL帶來的能力提升是可預(yù)測(cè)、可泛化的,不是死記硬背。



以及為了讓模型在回答復(fù)雜問題之前先“想一想”,團(tuán)隊(duì)仍用強(qiáng)化學(xué)習(xí)訓(xùn)練它具備這種“測(cè)試時(shí)推理”能力。

不過需要注意,實(shí)踐證明Test-time階段的推理尤為耗費(fèi)token,所以如何精打細(xì)算也是這一階段的重點(diǎn)。

對(duì)此,他們用了兩個(gè)關(guān)鍵手段來平衡效果與效率:

一是思考時(shí)間懲罰。鼓勵(lì)模型用更短的推理路徑得出正確答案,倒逼它學(xué)會(huì)“思維壓縮”。

二是多智能體協(xié)作。讓多個(gè)模型或模塊協(xié)同工作,在保證響應(yīng)速度不降的前提下提升整體表現(xiàn)。

然后在AIME這類高難度評(píng)測(cè)集上,他們觀察到了一個(gè)有趣的“三階段變化”

模型一開始會(huì)不自覺延長(zhǎng)思考,希望通過拉長(zhǎng)推理過程來提高正確率。

但這會(huì)馬上觸發(fā)“思考時(shí)間懲罰”,于是模型被迫精簡(jiǎn)推理,學(xué)會(huì)用更少的token解決問題。

而在精簡(jiǎn)之后,模型還表現(xiàn)出了擴(kuò)展性能——在高效的基礎(chǔ)上繼續(xù)優(yōu)化解法,最終實(shí)現(xiàn)用更少的資源獲得更強(qiáng)的性能表現(xiàn)。



也不乏翻車的

不過前面也說了,Muse Spark雖然將Meta帶回了第一梯隊(duì),但在編程、Agent類任務(wù)上仍有不足。

這不,模型剛發(fā)布,翻車集錦也來了……

有人想用它生成網(wǎng)站,結(jié)果3個(gè)請(qǐng)求一個(gè)都沒實(shí)現(xiàn),而且連最基本的前端都無(wú)。



不過后來貼主發(fā)現(xiàn)可能是偶然錯(cuò)誤,模型正常情況下做出來的前端是這樣的。



一個(gè)簡(jiǎn)單的編程任務(wù),Muse Spark雖生成了一大堆東西,但根本跑不通。

在一個(gè)Python文件里實(shí)現(xiàn)自動(dòng)微分(autograd)和神經(jīng)網(wǎng)絡(luò)。

網(wǎng)友甚至調(diào)侃,模型根本沒在學(xué),訓(xùn)練了1800個(gè)epoch,損失函數(shù)卻一直卡在同一個(gè)值上沒動(dòng)過。

白白浪費(fèi)算力了……

(正常情況下,隨著訓(xùn)練進(jìn)行損失應(yīng)該逐步下降,表明模型在“學(xué)習(xí)”)



所以問題來了,有試過的朋友覺得亞歷山大王的首個(gè)模型如何?

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
陳麗華頭七剛過,前員工公開爆料人品,遲重瑞的評(píng)價(jià)終于有人信了

陳麗華頭七剛過,前員工公開爆料人品,遲重瑞的評(píng)價(jià)終于有人信了

小兔子的快樂
2026-04-13 08:24:28
95年我被關(guān)派出所,我問長(zhǎng)官:你認(rèn)識(shí)我舅嗎?長(zhǎng)官:你舅算哪根蔥

95年我被關(guān)派出所,我問長(zhǎng)官:你認(rèn)識(shí)我舅嗎?長(zhǎng)官:你舅算哪根蔥

荔枝人物記
2025-07-29 09:09:07
48年宋時(shí)輪乘吉普誤入敵區(qū),被敵兵包圍,敵營(yíng)長(zhǎng)驚喜道:自己人

48年宋時(shí)輪乘吉普誤入敵區(qū),被敵兵包圍,敵營(yíng)長(zhǎng)驚喜道:自己人

浩渺青史
2026-04-12 15:58:13
曼聯(lián)花5000萬(wàn)買的"鐵腰",半年后被紐卡抄底截胡

曼聯(lián)花5000萬(wàn)買的"鐵腰",半年后被紐卡抄底截胡

競(jìng)技風(fēng)云錄
2026-04-13 14:12:14
三世紀(jì)仇怨難解,85%民眾痛斥中國(guó),瑞典為何如此反華?

三世紀(jì)仇怨難解,85%民眾痛斥中國(guó),瑞典為何如此反華?

通鑒史智
2026-04-12 09:48:11
案例:北大女博士倒掛長(zhǎng)城2個(gè)小時(shí),目睹老公劈死,自己墜崖而亡

案例:北大女博士倒掛長(zhǎng)城2個(gè)小時(shí),目睹老公劈死,自己墜崖而亡

清茶淺談
2025-01-14 18:01:31
活塞悶聲干大事:18年首回60勝,掘金卻連贏12場(chǎng)截胡熱搜

活塞悶聲干大事:18年首回60勝,掘金卻連贏12場(chǎng)截胡熱搜

賽場(chǎng)名場(chǎng)面
2026-04-13 13:55:59
回加拿大生活的大山,60歲須發(fā)皆白很滄桑,重慶妻子仍風(fēng)韻猶存

回加拿大生活的大山,60歲須發(fā)皆白很滄桑,重慶妻子仍風(fēng)韻猶存

素衣讀史
2026-03-31 15:11:31
終于和解,成龍與房祖名惠州親密同游,修復(fù)關(guān)系全靠孫子與鈔能力

終于和解,成龍與房祖名惠州親密同游,修復(fù)關(guān)系全靠孫子與鈔能力

一盅情懷
2026-04-10 15:41:48
太夸張了!一安徽司機(jī)行駛3萬(wàn)公里,違章71起,罰款都要交三四萬(wàn)

太夸張了!一安徽司機(jī)行駛3萬(wàn)公里,違章71起,罰款都要交三四萬(wàn)

火山詩(shī)話
2026-04-13 07:43:25
文班亞馬常規(guī)賽數(shù)據(jù):場(chǎng)均25分11.5籃板3.1蓋帽,蟬聯(lián)蓋帽王

文班亞馬常規(guī)賽數(shù)據(jù):場(chǎng)均25分11.5籃板3.1蓋帽,蟬聯(lián)蓋帽王

懂球帝
2026-04-13 12:16:13
何家擁頂級(jí)醫(yī)療資源,何超蕸仍不敵病魔,她到底得了什么???

何家擁頂級(jí)醫(yī)療資源,何超蕸仍不敵病魔,她到底得了什么???

天天熱點(diǎn)見聞
2026-04-13 10:13:51
當(dāng)代著名教育理論家胡德海逝世,被譽(yù)為西北“教育胡楊”

當(dāng)代著名教育理論家胡德海逝世,被譽(yù)為西北“教育胡楊”

澎湃新聞
2026-04-13 12:48:37
含劇毒,無(wú)解藥!每家每戶都有,千萬(wàn)別亂吃,哪怕煮爛了也沒用!

含劇毒,無(wú)解藥!每家每戶都有,千萬(wàn)別亂吃,哪怕煮爛了也沒用!

路醫(yī)生健康科普
2026-04-11 20:50:03
廣東隊(duì)最新消息!戰(zhàn)廣廈名單出爐 ,徐昕提前召回 焦泊喬季后賽歸

廣東隊(duì)最新消息!戰(zhàn)廣廈名單出爐 ,徐昕提前召回 焦泊喬季后賽歸

小曙說娛
2026-04-13 13:05:22
500萬(wàn)拍下張雪機(jī)車的“洗臉熊”:門店訂單量翻倍,年初多地門店陷入“跑路”風(fēng)波

500萬(wàn)拍下張雪機(jī)車的“洗臉熊”:門店訂單量翻倍,年初多地門店陷入“跑路”風(fēng)波

藍(lán)鯨新聞
2026-04-12 21:43:41
名門千金海清:坐擁9500平大院,給歐豪下跪,兒子被稱小谷愛凌

名門千金海清:坐擁9500平大院,給歐豪下跪,兒子被稱小谷愛凌

邊城少爺
2026-03-21 15:28:36
出大事了,2小時(shí)談判破裂后,伊朗逮捕50名雇傭兵,萬(wàn)斯有話要說

出大事了,2小時(shí)談判破裂后,伊朗逮捕50名雇傭兵,萬(wàn)斯有話要說

黑鷹觀軍事
2026-04-12 21:04:40
中美俄石油儲(chǔ)量對(duì)比:俄800億桶,美國(guó)超700億桶,中國(guó)有多少?

中美俄石油儲(chǔ)量對(duì)比:俄800億桶,美國(guó)超700億桶,中國(guó)有多少?

壹知眠羊
2026-03-29 10:24:16
郎朗沒想到,31歲混血老婆“性感出道”,卻因德國(guó)一場(chǎng)彩排引熱議

郎朗沒想到,31歲混血老婆“性感出道”,卻因德國(guó)一場(chǎng)彩排引熱議

一娛三分地
2026-02-26 17:15:04
2026-04-13 14:39:00
量子位 incentive-icons
量子位
追蹤人工智能動(dòng)態(tài)
12465文章數(shù) 176449關(guān)注度
往期回顧 全部

科技要聞

傳榮耀與字節(jié)跳動(dòng)接洽“豆包手機(jī)”合作

頭條要聞

牛彈琴:談判失敗美國(guó)不惜自殘 用的招夠狠夠損也夠蠢

頭條要聞

牛彈琴:談判失敗美國(guó)不惜自殘 用的招夠狠夠損也夠蠢

體育要聞

一支球隊(duì)不夠爛,也是一種悲哀

娛樂要聞

賈玲減重后現(xiàn)身馮鞏生日宴 身材未反彈

財(cái)經(jīng)要聞

封鎖,還是收費(fèi)站?

汽車要聞

不止命名更純粹 領(lǐng)克10/10+要做純電操控新王

態(tài)度原創(chuàng)

藝術(shù)
房產(chǎn)
教育
家居
公開課

藝術(shù)要聞

22位中國(guó)當(dāng)代名家油畫作品

房產(chǎn)要聞

土地供應(yīng)突然暴跌!2026海口樓市,格局大變!

教育要聞

速看!海淀這22所中小幼學(xué)校招聘——

家居要聞

復(fù)古風(fēng)格 自然簡(jiǎn)約

公開課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版