有一說(shuō)一，最近這AI大模型圈，屬實(shí)有點(diǎn)抽象了。

各家都在悶聲鼓搗那些偏向商業(yè)落地的應(yīng)用，幾家大廠們滿腦子都是怎么把OpenClaw的概念融入到自家的產(chǎn)品里，真正讓人覺(jué)得眼前一亮的底層技術(shù)突破反倒不怎么看得到了。

谷歌拍了拍腦袋，尋思這樣不得勁啊。

于是乎，就在前幾天，谷歌推出了新一代開(kāi)源模型Gemma 4，包括E2B、E4B、26B、31B四個(gè)規(guī)格，其中 E2B、E4B 兩個(gè)較小模型直接可以在手機(jī)、樹(shù)莓派等設(shè)備上部署運(yùn)行，26B、31B也只需要一張消費(fèi)級(jí)顯卡就能跑起來(lái)。

（圖源：雷科技）

要知道，前兩年吵得沸沸揚(yáng)揚(yáng)的AI手機(jī)，大家買(mǎi)回家用了半年才發(fā)現(xiàn)，超過(guò)九成的核心功能依然得依靠網(wǎng)絡(luò)把數(shù)據(jù)傳到云端服務(wù)器才能實(shí)現(xiàn)，一旦斷網(wǎng)就是個(gè)啞巴，這實(shí)在讓人覺(jué)得差點(diǎn)意思。

谷歌這邊就表示，Gemma 4的發(fā)布代表了移動(dòng)設(shè)備端AI的重大進(jìn)步，它為手機(jī)、平板、筆記本電腦等端側(cè)設(shè)備帶來(lái)了強(qiáng)大的多模態(tài)功能，可以讓用戶體驗(yàn)到過(guò)去只有云端先進(jìn)模型上才能體驗(yàn)的高效處理性能。

又來(lái)個(gè)以小搏大嗎？有點(diǎn)意思。

為了看看這玩意的真實(shí)成色，小雷也去下載了谷歌發(fā)布的最新模型進(jìn)行測(cè)試，接下來(lái)就給大家說(shuō)說(shuō)里面的亮點(diǎn)吧。

谷歌要以小搏大

為什么谷歌這次能引起這么大的轟動(dòng)？

要搞清楚這點(diǎn)，我們就要先搞清楚這個(gè)模型是什么。

Gemma 4 E2B/E4B是谷歌利用MatFormer架構(gòu)打造的輕量化端側(cè)大模型，它借由PLE和Hybrid Attention結(jié)構(gòu)實(shí)現(xiàn)了長(zhǎng)上下文和低內(nèi)存消耗設(shè)計(jì)，內(nèi)存占用與傳統(tǒng)的2B和4B模型相當(dāng)，最低只要3.2GB內(nèi)存就能正常調(diào)用。

（圖源：谷歌）

其次，我們要搞清楚這個(gè)模型能做什么。

過(guò)去的手機(jī)端大模型，大多是簡(jiǎn)單粗暴地把云端模型切掉一大部分參數(shù)，然后硬塞進(jìn)手機(jī)里，這就導(dǎo)致它們往往是個(gè)偏科生，只能做點(diǎn)簡(jiǎn)單的文字問(wèn)答。

但這次Gemma 4的E2B和E4B型號(hào)徹底改變了思路，就像上面說(shuō)的那樣，它們從底層架構(gòu)開(kāi)始就采用了原生多模態(tài)設(shè)計(jì)。

原生多模態(tài)就是說(shuō)，這個(gè)模型原生支持圖像、音視頻等多種輸入模態(tài)，它不需要先把你說(shuō)的話翻譯成文字再慢慢理解，而是能直接聽(tīng)懂語(yǔ)氣和語(yǔ)意；它在看圖的時(shí)候也不需要把高分辨率的照片暴力壓縮，而是能直接看清畫(huà)面里的細(xì)節(jié)。

（圖源：谷歌）

至少理論上是這樣的。

最后，我要怎樣做，才能用上Gemma 4呢？

放在一年前，想在手機(jī)上部署端側(cè)大模型其實(shí)是一件異常復(fù)雜的事情，往往還要借助Linux虛擬機(jī)的幫助才能實(shí)現(xiàn)，雷科技曾經(jīng)還為此推出過(guò)一篇教程，因此大家會(huì)有這樣的疑問(wèn)也是很合理的。

但是現(xiàn)在，就沒(méi)有這個(gè)必要了。

Google在去年低調(diào)上線了一款新應(yīng)用，名為Google AI Edge Gallery，支持用戶在手機(jī)上直接運(yùn)行來(lái)自Hugging Face平臺(tái)的開(kāi)源AI模型，這是Google首次嘗試將輕量AI推理帶入本地設(shè)備。

（圖源：谷歌）

目前該應(yīng)用已在Android平臺(tái)開(kāi)放下載，感興趣的讀者可以直接前往Play Store下載體驗(yàn)。在完成大模型加載后，用戶就可以利用這款應(yīng)用實(shí)現(xiàn)對(duì)話式AI、圖像理解以及提示詞實(shí)驗(yàn)室功能，甚至可以導(dǎo)入自定義LiteRT格式模型。

無(wú)需聯(lián)網(wǎng)，直接調(diào)用手機(jī)本地算力完成任務(wù)，就是這么簡(jiǎn)單。

更適合移動(dòng)設(shè)備體質(zhì)

接下來(lái)，就輪到萬(wàn)眾期待的測(cè)試環(huán)節(jié)了。

如圖所示，谷歌為這款應(yīng)用默認(rèn)準(zhǔn)備了九款模型，其中有自家的Gemma系列，也有千問(wèn)和深度求索的開(kāi)源模型，我們選擇了目前最強(qiáng)的Gemma 4-E4B、前代Gemma 3n-E4B、千問(wèn)的Qwen2.5-1.5B和DeepSeek-R1-1.5B進(jìn)行測(cè)試。

首先是一系列經(jīng)典的邏輯問(wèn)題：

Q：Strawberry一詞中有多少個(gè)字母“r”？

這一題看起來(lái)簡(jiǎn)單，卻實(shí)實(shí)在在難倒過(guò)諸多AI大模型。

實(shí)測(cè)下來(lái)，通過(guò)谷歌部署的這一系列模型，全部都會(huì)回答“2個(gè)”，倒是我另外部署的Qwen3-4B GGUF能給出正確答案“3個(gè)”，只是莫名其妙的反復(fù)思考讓它整整生成了兩分半鐘，挺浪費(fèi)時(shí)間的。

（圖源：雷科技）

Q：倆父子釣了三條魚(yú)，每個(gè)人都分到一條，這是咋回事？

這個(gè)就更絕了，愣是沒(méi)有一個(gè)能答對(duì)的，甚至連我在現(xiàn)實(shí)中問(wèn)同事，也至少有一半是反應(yīng)不過(guò)來(lái)的，只能說(shuō)這種玩文字游戲的邏輯題目，對(duì)于人和大模型的專(zhuān)注度都是一種考驗(yàn)。

（圖源：雷科技，從左到右：Gemma 4、Gemma 3n、DS R1、Qwen2.5）

Q：有三個(gè)人 A、B、C。其中一個(gè)是騎士（只說(shuō)真話），一個(gè)是無(wú)賴（只說(shuō)假話），一個(gè)是間諜（可說(shuō)真話也可說(shuō)假話）。
A 說(shuō)：‘我是騎士�！�
B 說(shuō)：‘A 說(shuō)的是真話�！�
C 說(shuō)：‘B 是間諜�！�
已知三人身份各不相同，請(qǐng)推理出 A、B、C 分別是誰(shuí)，并說(shuō)明理由。

這回Gemma 4經(jīng)過(guò)一系列的窮舉推理，總算是拿捏了這道題目，總耗時(shí)59s，倒也不算長(zhǎng)，至于其他三款大模型，除了一本正經(jīng)胡說(shuō)八道的，就是自己陷入思考過(guò)程無(wú)限循環(huán)的。

（圖源：雷科技，從左到右：Gemma 4、Gemma 3n、DS R1、Qwen2.5）

從結(jié)果來(lái)看，小參數(shù)確實(shí)會(huì)顯著降低模型的邏輯思考能力，思考功能可以在一定程度上降低AI幻覺(jué)產(chǎn)生的可能性，但也因此會(huì)增加生成所需的時(shí)間。

然后是一道比較簡(jiǎn)單的文學(xué)誤導(dǎo)題：

Q：“種豆南山下”的前一句是什么？

事實(shí)上，這是出自陶淵明《歸園田居·其三》的首句詩(shī)，并沒(méi)有前一句，正好能看看這幾款小參數(shù)模型是否存在為了回答問(wèn)題編造數(shù)據(jù)的現(xiàn)象。

結(jié)果是全錯(cuò)，論給人陶淵明整成現(xiàn)代詩(shī)人這一塊。

接下來(lái)，是一個(gè)簡(jiǎn)單的文本處理任務(wù)。

具體來(lái)說(shuō)，我這邊提供了2500字左右的文章，希望他們能夠給出對(duì)應(yīng)的文章總結(jié)。

其中，只有Gemma 3n-E4B和Gemma 4-E4B算是能完成任務(wù)，但是前者耗時(shí)將近兩分鐘，而且給出的答案抓不住重點(diǎn)，后者給出來(lái)的答案更加簡(jiǎn)明扼要。

至于參數(shù)最小的DS R1-1.5B，根本就給不出答復(fù)。

（圖源：雷科技，從左到右：Gemma 4、Gemma 3n、DS R1、Qwen2.5）

從以上四輪測(cè)試來(lái)看，在文本處理、邏輯推理能力上，Gemma 4-E4B算是有小幅提升，但是在生成速度、回復(fù)成功率上其實(shí)是領(lǐng)先不少的，只能說(shuō)深度思考顯然是不適合本地模型的。

不過(guò)Gemma 3n并不是單純的文本大模型，人家可是罕有的小參數(shù)多模態(tài)大模型。

先測(cè)試一下僅限Gemma的Ask Audio，我導(dǎo)入了一份21分鐘的wav音頻，可以看到目前最多支持上傳30s內(nèi)容，語(yǔ)音轉(zhuǎn)文字出來(lái)的內(nèi)容和原音頻幾乎沒(méi)有關(guān)系，目前可用性挺一般的。

（圖源：雷科技）

接著是Ask Image，我可以通過(guò)隨手拍攝或者上傳照片的方式，向Gemma 4提問(wèn)。

實(shí)測(cè)下來(lái)，Gemma 4對(duì)于圖片里的元素識(shí)別準(zhǔn)確了不少，基本都能完整復(fù)述出圖片里的元素，只是它對(duì)于動(dòng)漫角色依然是一竅不通，諸如花卉識(shí)別這類(lèi)應(yīng)用也不精準(zhǔn)，只有比較常見(jiàn)的食物、硬件這類(lèi)可以識(shí)別出來(lái)。

（圖源：雷科技）

至于Agent Skills...這玩意除了倆文字游戲外，目前幾個(gè)功能都是需要聯(lián)網(wǎng)實(shí)現(xiàn)的，和端側(cè)大模型關(guān)系不大。

（圖源：雷科技）

你別說(shuō)，在功能的豐富程度上，Gemma 4確實(shí)贏太多了。

端側(cè)AI的拐點(diǎn)終于來(lái)了

好了，經(jīng)過(guò)我這幾天的輪番折騰，是時(shí)候給谷歌這次的Gemma 4下個(gè)結(jié)論了。

在我看來(lái)，這玩意兒確實(shí)可能會(huì)引發(fā)本地Agent浪潮。

在基礎(chǔ)的文本問(wèn)答和邏輯能力上，Gemma 4并沒(méi)有做出什么突破，但是它的思考鏈更加合理，生成速度對(duì)比前代提升了1.5x-2x，這在應(yīng)對(duì)很多不算復(fù)雜的日常問(wèn)題時(shí)已經(jīng)綽綽有余。

而且它的優(yōu)點(diǎn)也很突出，除了兼容一系列Agent Skills外，Gemma 4-E4B甚至可以做到音頻和圖片的原生輸入，雖說(shuō)前者目前限制多多，后者理解能力有待提升，但是這都是人無(wú)我有的核心價(jià)值。

（圖源：谷歌）

更重要的是，這件事并不是谷歌一家在做。

為了讓這兩個(gè)模型真的跑起來(lái)，谷歌這次是把整條硬件鏈路一起拉進(jìn)來(lái)了，從Pixel 團(tuán)隊(duì)，到高通、聯(lián)發(fā)科，再到ARM、英偉達(dá)都參與了優(yōu)化，這也讓Gemma 4可能成為市面上第一個(gè)能夠正常調(diào)用NPU的端側(cè)大模型

過(guò)去一年，手機(jī)大模型的賽道一直處于不溫不火的尷尬期。

如今谷歌直接把桌子掀了，把性能強(qiáng)悍的多模態(tài)模型塞進(jìn)手機(jī)，必將逼迫國(guó)內(nèi)廠商加快端側(cè)技術(shù)的迭代速度。

可以預(yù)見(jiàn)，在未來(lái)的大半年時(shí)間里，一場(chǎng)圍繞著手機(jī)本地算力的反擊戰(zhàn)即將打響。而當(dāng)Agent可以調(diào)用本地模型完成推理、生成、任務(wù)執(zhí)行，一臺(tái)足夠安全、足夠懂你且無(wú)需連網(wǎng)的AI手機(jī)或許離我們已經(jīng)不遠(yuǎn)了。

而在那一天到來(lái)之前，Gemma 4絕對(duì)是你當(dāng)下最值得上手體驗(yàn)的選擇。