国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

聊聊小米開源的MiMo-V2-Flash,這次,為推理而生。

0
分享至

周末加更一篇,我還是覺得,小米前兩天開源的那個模型,值得單獨(dú)來聊一聊。

當(dāng)天晚上其實就打算寫了,結(jié)果被OpenAI截胡了,這一拖,就拖到了今天。

就是前兩天深夜,小米搞了一個大的。

沒有任何預(yù)兆的,直接開源了一個大模型, MiMo-V2-Flash。


說實話,十年米粉看到以后,還是有點(diǎn)激動的。

小米,作為硬件廠商的代表,終于出手了。

成績也不錯,在O penRouter上的調(diào)用量排名上,一路上漲。


今天看,又漲了將近2倍,已經(jīng)來到了第六了,這個漲幅還是挺恐怖的。

而且還有一個非常有意思的是,那天,也是雷總的生日。


這絕對不是巧合(狗頭保命)。

這次, MiMo-V2-Flash 發(fā)布即開源,還附帶了技術(shù)報告。


說真的,這個技術(shù)報告,真的究極詳細(xì)了。


就很多有趣的經(jīng)驗值得分享。

然后,還做了一個線上對話產(chǎn)品,也是為了方便大家進(jìn)行快速便捷的體驗。

網(wǎng)址在此: https://aistudio.xiaomimimo.com/


我這兩天,零零散散的花了一些時間,讀完了技術(shù)報告,又體驗了一下模型之后,我覺得,這個模型還是有一點(diǎn)意思的。

就如同他們自己在Blog上所說的那樣。


Blazing speed meets frontier performance。

極速性能,前沿體驗。

老規(guī)矩,先看跑分。



差不多在開源世界里,屬于第一梯隊水平,跟Kimi-K2 Thinking和DeepSeek-V3.2互有勝負(fù)。

跟閉源模型,也能掰掰手腕,但是坦誠的講,Gemini 3.0 Pro還是太強(qiáng)了。。。

在Artificial Analysis上,綜合排名也是開源第二。


不過這些跑分,我覺得現(xiàn)在大家看看就就行了,真正在技術(shù)報告里有比較有意思的創(chuàng)新的點(diǎn),還是在于他們生為一個硬件為核心的公司,所一直追求的。

能跑多快,能跑多省。

小米,為發(fā)燒而生。

MiMo,為Reasoning而生。


在MiMo的世界里,最核心的,是速度、成本、是延遲。

是能不能把它塞進(jìn)手機(jī)、塞進(jìn)汽車、塞進(jìn)一個能面向于普通消費(fèi)者的未來里。


這次 MiMo-V2-Flash是個MoE模型,總參數(shù)309B,激活參數(shù)量15B。

基本上,跟DeepSeek-V3.2相比,MiMo-V2-Flash的推理成本略低,而推理速度大約是 V3.2 的三倍左右。

跟Gemini 2.5 Pro相比的話,MiMo-V2-Flash的推理速度接近,但推理成本大約低了20倍。

在價格上,達(dá)到了非常離譜的數(shù)據(jù)。


每百萬輸入token為0.1美元,每百萬輸出token為0.3美元。

這個數(shù)據(jù)有多離譜,我覺得還是需要放一下一些其他大模型價格對比。

GPT-5.2:$1.75/輸入,$14/輸出。

Gemini 3 Pro(<200k上下文):$2/輸入,$12/輸出。

Gemini 3 Flash:$0.50/輸入,$3/輸出。

Kimi K2 Thinking:$0.60/輸入,$2.50/輸出

DeepSeek-V3.2(思考模式):$0.28/輸出入,$0.43/輸出。

相信大家現(xiàn)在就知道, MiMo-V2-Flash的價格和性能對比,還有他的推理速度,有多離譜了,可能會是常規(guī)開發(fā)普惠的又一利器。

而整個模型里面,我覺得最棒的點(diǎn),其實有兩個,一個叫長文本,一個叫吐字速度。

一個一個說。

先說長文本。

過去所有大模型做長文本,都會遇到一個非常樸素的問題,就是你讓它看的東西越長,它腦子里要記的上下文緩存(KV cache)就越大,算注意力的時候就越廢。

就比如說考試寫作文。

最傳統(tǒng)的大模型寫作文,大概是這樣的流程,就是每寫一個字,都要從頭到尾把自己剛寫的所有內(nèi)容,重新讀一遍想一遍,然后才敢寫下一個字。

寫到第1000個字時,你可以理解成,它已經(jīng)把前面999個字復(fù)習(xí)了999遍。

是不是聽著就很酸爽,如果想象不到有多痛苦的,大家現(xiàn)在可以自己試一試。。。

這其實就是所謂的全局注意力,就是你每添一個詞,大模型腦子里都要把前文全刷一遍,它很怕漏掉什么細(xì)節(jié)。

理論上,這樣最穩(wěn)妥、最嚴(yán)謹(jǐn),但有一個致命問題,就是太費(fèi)勁,太慢了。

就好像你在寫古詩,一邊寫一邊從第一頁開始把整本《唐詩三百首》背一遍,確認(rèn)自己沒有撞韻,再寫下一個字。

非要用一個詞來描述這種行為,那我覺得,就是,自虐。

后來大家覺得不能這么算下去啊,要不然到時候就算你顯卡堆成一座山,速度也快不起來,更別提長文本了。

所以就有一大堆加速方法被發(fā)明出來了,什么注意力結(jié)構(gòu)、稀疏連接、特化硬件啥的都出現(xiàn)了。

小米的搞得這個Hybrid Attention,本質(zhì)上就干了一件特別樸素的事,承認(rèn)一個現(xiàn)實,也就是人類看東西,不是每一秒都在看全局。

其實你讀小說的時候,其實也是局部認(rèn)真,全局大概知道個意思。

你的眼睛,肯定主要盯著眼前這一兩頁,這是滑動窗口。

偶爾翻回前面看看人物關(guān)系圖、章節(jié)標(biāo)題,這是全局注意。

MiMo-V2-Flash把這個節(jié)奏,直接寫進(jìn)了模型結(jié)構(gòu)里。

它的大部分時間,只看最近的 128 個 token,就像你只記得眼前這一段對話,每隔一段,就抬頭看一下全局,防止走偏。

這就是MiMo-V2-Flash采用的全局注意力(GA)與滑動窗口注意力(SWA)1:5 的混合方案,長上下文下KV cache和注意力計算,能有接近6倍下降。。。

然后最有意思的事,他們還加了一個東西,叫“attention sink bias”。

你大概就可以理解成,讓模型可以把有些東西選擇性的不看,讓注意力沉底,不被各種噪音干擾。

人類其實也一樣,你坐在洗腳城大廳,旁邊有人吵架、有人刷短視頻、有人喊服務(wù)員,你不可能每句話都聽進(jìn)去。你真正能活下去的能力,是你能把這些噪音當(dāng)成背景音,眼神空焦一下,注意力直接沉下去,只抓你要的那點(diǎn)信息。

MiMo做的,就是把這種我選擇性忽略的能力工程化了。

更有意思的是,他們也做了實驗,沒有這個sink bias,性能會掉,加上以后不僅回來了,甚至能跟全局注意力打平甚至更好。

所謂MiMo-V2-Flash為了解決成本問題,其實做了不少有趣的事情,而且雖然看著很多技術(shù)名詞,但是本質(zhì)上,非常的生活化。

就是,承認(rèn)記得太多也是負(fù)擔(dān),學(xué)會在正確的地方選擇性忘記,把算力留給真正重要的部分。

長文本搞定之后,然后是第二個:吐字速度。

很多人以為大模型慢,是因為它不夠強(qiáng)。

其實更真實的原因是,就是大模型生成文字這件事,本質(zhì)上非常流水線,一口一口吐,吐一個才知道下一個。

就像你讓一個師傅現(xiàn)場寫春聯(lián),他寫完上聯(lián)最后一個字,才知道下聯(lián)第一個字怎么對,那速度怎么可能快的起來,還寫個屁。

所以,MiMo-V2-Flash也用了一個有趣的東西,叫Multi-Token Prediction(MTP,多詞預(yù)測)。


這玩意別被名字嚇到,其實也特別生活化。

本質(zhì)上就是,你別一個字一個字寫,你先打個草稿,一次性多寫幾個字,然后再快速檢查一遍,沒問題就直接用,有問題就退回重寫。

論文里會說得更技術(shù)一點(diǎn),MTP可以作為“draft model”用于speculative decoding(推測解碼),也就是先草稿、后驗收的機(jī)制。

而且不是當(dāng)一個工程上的外掛搞得,最開始的預(yù)訓(xùn)練階段,這玩意就直接塞了進(jìn)去,讓模型學(xué)的一直就是先草稿、再檢查這套節(jié)奏。

在微調(diào)階段,又加了更多層MTP,把這種多字并行的本事練得更熟了。

等到真正上線推理的時候,它直接開三層 MTP 并行,就相當(dāng)于你手下有三組實習(xí)生輪班打草稿,主模型坐在中間挑挑揀揀,最后形成一條流暢的回答。

結(jié)果就是你前面看到的那個很夸張的數(shù)字。

在實際場景里,三層MTP可以做到2到2.6倍的加速,單條回復(fù)能跑到150 token/s,全局吞吐可以拉到5000到15000 token/s。

我錄了一個回答,無加速,大家可以看看,20秒4000字,真的已經(jīng)非常快了。

所以,其實通過上面這些有趣的東西,你就能看出來。

這個模型的特點(diǎn)了。

和DeepSeek-V3.2能力相近,但速度大概快三倍。

和Gemini 2.5 Pro能力接近,速度差不多,但成本低了近二十倍。

也就是,同樣干一份工,我能用更少的錢、更少的電、跑得更快、更穩(wěn)。

真的,對于一個硬件公司來說,這幾乎是刻在DNA里的執(zhí)念。

手機(jī)時代,小米喜歡在發(fā)布會上講同價位性能最強(qiáng)。

到大模型時代,它只是把同一套工程價值觀,搬到了另一個戰(zhàn)場。

我也大概測了一下模型的能力。

在代碼這塊,還挺有意思。

比如我之前測Gemini 3 Pro的時候,有一個體素3D世界的Prompt:

設(shè)計并創(chuàng)建一個非常有創(chuàng)意、精致且細(xì)節(jié)豐富的像素3D場景:一只胖乎乎的奶龍坐在一座美麗的花園中央,旁邊是小池塘、石燈籠和彎曲的小路,周圍長滿樹木,其中包括幾棵盛開的櫻花樹。讓整個場景足夠震撼、層次豐富,在不同高度和區(qū)域布置各種小細(xì)節(jié),比如長椅、小橋、石子路、草叢、花壇等,并使用色彩豐富的體素來表現(xiàn)??梢允褂萌魏螏靵硗瓿蛇@個效果,但要確保我能把所有內(nèi)容粘貼到一個單獨(dú)的 HTML 文件中,并直接在 Chrome 中打開。JavaScript 庫的引入方式請使用 importmap 和 ES 模塊(ESM)導(dǎo)入。

而這次我扔到MiMo-V2-Flash里,也一次性直出了。

各種交互啥的也都沒啥問題。

而且功能也都給你做全了,櫻花特效都能關(guān),也能自動旋轉(zhuǎn),最細(xì)節(jié)的事,奶龍脖子那里,還有一個會一閃一閃發(fā)光的小立方體,還挺精致的。

還有一個測模型svg能力的時候,一個Prompt:

做一個長滾動網(wǎng)頁,用 5 層以上視差背景和 SVG 插畫講一個小故事,滾動時觸發(fā)漸進(jìn)式動畫和文字漸顯。


這塊完成的也不錯。


每個小動畫,屬實是都到位了。

比如前幾天,Gemini流星雨,我就想,讓Mimo給我做一個可以手勢控制的流星網(wǎng)頁。

對,就這么一個超級簡單的Prompt。


MiMo-V2-Flash一次成型。

像左揮手就是藍(lán)色流星,像右揮手,就是紅色流星。

然后我又基于這個,改了一個識別手勢,刮彩票的。

這次出了小小的BUG,不過對話兩次,也改成功了。

就非常的有意思,很好玩。

然后又一句話做了一個像素畫板。


也成功了。

整體看下來,代碼能力不差,不過坦誠的講,前端審美離最頭部的模型,還有一些差距。

在寫作上,直出效果還行。


但是還是會有中文大模型的堆砌詞藻空洞的問題,很多句子看著很華麗,但是其實比較的空,不包含任何信息量。

但是已經(jīng)比一些中文大模型好一些了。

而在文風(fēng)復(fù)刻任務(wù)上,其實也差不多。

這是我用我的文風(fēng)復(fù)刻的我自己的文章。


有些句子寫的不錯,而且那些經(jīng)常被惡心的不是...而是...句式基本沒用過,在很多時候,調(diào)一調(diào)還是可以的用的。

從更長遠(yuǎn)一點(diǎn)看,小米做這件事的意義,我覺得還是會往硬件去。

當(dāng)未來,真的萬物皆Agent的時候。

在手機(jī)、在車機(jī)、在路由器、在眼鏡上、在所有的智能家居里,那顆小小的模型,能不能跑得快、跑得穩(wěn)、跑得起。

這個是最重要的。

這也是,一家硬件公司最熟悉的戰(zhàn)場。

在這個戰(zhàn)場里,小米過去十幾年已經(jīng)證明過自己一次了,我到現(xiàn)在還記得我買小米1的興奮。

作為一個十年米粉,我真的也很想自私地說一句。

如果哪天我跑Agent、搭小網(wǎng)頁、操控我家里的所有家具,用的那顆本地小模型,背后跑的就是 MiMo,那會是一件挺讓人開心的事。

開源是一種表態(tài)。

工程是一種信仰。

看好小米。

以上,既然看到這里了,如果覺得不錯,隨手點(diǎn)個贊、在看、轉(zhuǎn)發(fā)三連吧,如果想第一時間收到推送,也可以給我個星標(biāo)?~謝謝你看我的文章,我們,下次再見。

>/ 作者:卡茲克

>/ 投稿或爆料,請聯(lián)系郵箱:wzglyay@virxact.com

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
紀(jì)實:浙江幼師幼兒園潛伏22年,警察曝光真實身份,家長很后怕

紀(jì)實:浙江幼師幼兒園潛伏22年,警察曝光真實身份,家長很后怕

談史論天地
2026-03-01 09:49:38
庫明加轉(zhuǎn)會連爆三場 老鷹球迷主場高喊:謝謝勇士!

庫明加轉(zhuǎn)會連爆三場 老鷹球迷主場高喊:謝謝勇士!

體壇周報
2026-03-02 16:26:34
剛下飛機(jī)行李就沒了!姑娘花10多萬去南極旅游崩潰了:衣物全靠借

剛下飛機(jī)行李就沒了!姑娘花10多萬去南極旅游崩潰了:衣物全靠借

半島晨報
2026-03-02 18:14:15
伊朗發(fā)射近1200枚導(dǎo)彈報復(fù)美國和以色列

伊朗發(fā)射近1200枚導(dǎo)彈報復(fù)美國和以色列

中國網(wǎng)
2026-03-01 16:43:10
《大西洋月刊》丨所有人的目光都投向了古巴

《大西洋月刊》丨所有人的目光都投向了古巴

邸報
2026-03-02 10:33:45
特朗普稱對英國首相的立場“非常失望”

特朗普稱對英國首相的立場“非常失望”

新華社
2026-03-02 22:06:40
剛剛,全線暴跌!緊急救市!

剛剛,全線暴跌!緊急救市!

中國基金報
2026-03-02 17:11:34
巴拿馬變天,大清算開始了!真正的大國力量,有人根本一無所知!

巴拿馬變天,大清算開始了!真正的大國力量,有人根本一無所知!

阿訊說天下
2026-03-01 14:33:45
伊朗最高國家安全委員會秘書:已為長期戰(zhàn)爭做好準(zhǔn)備

伊朗最高國家安全委員會秘書:已為長期戰(zhàn)爭做好準(zhǔn)備

財聯(lián)社
2026-03-02 20:44:25
上千部違禁境外劇“唾手可得”,社科院建議:壓實平臺責(zé)任

上千部違禁境外劇“唾手可得”,社科院建議:壓實平臺責(zé)任

大象新聞
2026-03-02 12:18:25
伊朗再對美以基地發(fā)動大規(guī)模襲擊

伊朗再對美以基地發(fā)動大規(guī)模襲擊

財聯(lián)社
2026-03-01 12:32:05
精神領(lǐng)袖成高危職業(yè),伊朗暫定最高精神領(lǐng)袖上任一天即遭斬首

精神領(lǐng)袖成高危職業(yè),伊朗暫定最高精神領(lǐng)袖上任一天即遭斬首

史政先鋒
2026-03-02 22:00:29
英國宣布參與對伊朗軍事行動 戰(zhàn)機(jī)已升空

英國宣布參與對伊朗軍事行動 戰(zhàn)機(jī)已升空

桂系007
2026-02-28 23:56:12
美將領(lǐng):2月27日15時38分收到特朗普最終對伊軍事行動指令

美將領(lǐng):2月27日15時38分收到特朗普最終對伊軍事行動指令

國際在線
2026-03-02 22:38:02
暴跌40%,關(guān)店4000家!曾創(chuàng)神話的“零食界愛馬仕”,賣不動了

暴跌40%,關(guān)店4000家!曾創(chuàng)神話的“零食界愛馬仕”,賣不動了

好賢觀史記
2026-03-02 20:17:10
8小時撤離德黑蘭,沈陽男子講述離開伊朗細(xì)節(jié):當(dāng)?shù)貙χ袊擞押茫?次盤問都順利放行

8小時撤離德黑蘭,沈陽男子講述離開伊朗細(xì)節(jié):當(dāng)?shù)貙χ袊擞押茫?次盤問都順利放行

瀟湘晨報
2026-03-02 19:49:19
加水加糖加廢料,椰子水系統(tǒng)性摻假翻車!網(wǎng)友:真夠歹毒……

加水加糖加廢料,椰子水系統(tǒng)性摻假翻車!網(wǎng)友:真夠歹毒……

柴狗夫斯基
2026-03-02 10:46:05
王毅外長:今后世上再無“中國臺灣省”之外的任何模糊稱謂。

王毅外長:今后世上再無“中國臺灣省”之外的任何模糊稱謂。

南權(quán)先生
2026-02-02 15:59:44
嚴(yán)厲制止網(wǎng)絡(luò)上過度宣揚(yáng)“失業(yè)潮失業(yè)人數(shù)及躺平”等不良思想——

嚴(yán)厲制止網(wǎng)絡(luò)上過度宣揚(yáng)“失業(yè)潮失業(yè)人數(shù)及躺平”等不良思想——

葉初七
2026-03-02 17:06:05
新華時評:當(dāng)炸彈落在校園,文明底線何在

新華時評:當(dāng)炸彈落在校園,文明底線何在

澎湃新聞
2026-03-01 22:32:48
2026-03-03 00:52:49
數(shù)字生命卡茲克 incentive-icons
數(shù)字生命卡茲克
反復(fù)橫跳于不同的AI領(lǐng)域,努力分享一些很酷的AI干貨
465文章數(shù) 553關(guān)注度
往期回顧 全部

科技要聞

蘋果中國官網(wǎng)上線iPhone 17e,4499元起

頭條要聞

媒體:拉里賈尼走向前臺 四大關(guān)鍵變量將決定伊朗命運(yùn)

頭條要聞

媒體:拉里賈尼走向前臺 四大關(guān)鍵變量將決定伊朗命運(yùn)

體育要聞

“想要我簽名嗎” 梅西逆轉(zhuǎn)后嘲諷對手主帥

娛樂要聞

李亞鵬與哥哥和解 只有一條真心話短信

財經(jīng)要聞

油價飆升 美伊沖突將如何攪動全球經(jīng)濟(jì)

汽車要聞

國民SUV再添一員 瑞虎7L靜態(tài)體驗

態(tài)度原創(chuàng)

本地
數(shù)碼
藝術(shù)
游戲
公開課

本地新聞

津南好·四時總相宜

數(shù)碼要聞

高通MWC 2026發(fā)布多項通信技術(shù),定檔2029年開啟6G商用

藝術(shù)要聞

這四位老人的花鳥畫,竟讓人欲罷不能!

《寶可夢》新作M站90分!近年最新鮮的寶可夢體驗

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進(jìn)入關(guān)懷版