當(dāng)我在手機(jī)上點(diǎn)擊Anthropic的Claude AI應(yīng)用并輸入提示"給我講一個(gè)淘氣貓咪的故事"時(shí)，在結(jié)果出現(xiàn)在屏幕上之前，實(shí)際上經(jīng)歷了一個(gè)復(fù)雜的過(guò)程。我的請(qǐng)求被發(fā)送到云端某處數(shù)據(jù)中心的計(jì)算機(jī)，通過(guò)Claude的Sonnet 4.5大語(yǔ)言模型進(jìn)行處理。該模型利用高級(jí)預(yù)測(cè)文本技術(shù)，基于其訓(xùn)練的海量數(shù)據(jù)組裝出合理的回復(fù)。然后，這個(gè)回復(fù)被傳回到我的iPhone上，逐字逐句地顯示在屏幕上。整個(gè)過(guò)程中，信息傳輸了數(shù)百甚至數(shù)千英里，經(jīng)過(guò)多臺(tái)計(jì)算機(jī)，而這一切都在幾秒鐘內(nèi)完成。

這種系統(tǒng)在處理低風(fēng)險(xiǎn)且對(duì)速度要求不高的任務(wù)時(shí)運(yùn)行良好。我可以等待幾秒鐘來(lái)獲得關(guān)于Whiskers在廚房櫥柜里冒險(xiǎn)的小故事。但并非所有人工智能任務(wù)都是如此。有些任務(wù)需要極快的速度。如果AI設(shè)備要提醒某人前方有阻擋物體，它不能等待一兩秒鐘。

其他請(qǐng)求則需要更高的隱私保護(hù)。我不在乎貓咪故事經(jīng)過(guò)數(shù)十臺(tái)我不了解且可能不信任的個(gè)人或公司擁有的計(jì)算機(jī)。但如果是我的健康信息或財(cái)務(wù)數(shù)據(jù)呢？我可能希望對(duì)此保持更嚴(yán)格的控制。

速度和隱私是科技開發(fā)者越來(lái)越多地將AI處理從大型企業(yè)數(shù)據(jù)中心轉(zhuǎn)移到手機(jī)、筆記本電腦或智能手表等個(gè)人設(shè)備上的兩個(gè)主要原因。這樣做還能節(jié)省成本：無(wú)需向大型數(shù)據(jù)中心運(yùn)營(yíng)商付費(fèi)。此外，設(shè)備端模型可以在沒有互聯(lián)網(wǎng)連接的情況下工作。

但實(shí)現(xiàn)這一轉(zhuǎn)變需要更好的硬件和更高效、往往更專業(yè)化的AI模型。這兩個(gè)因素的融合將最終決定你在手機(jī)等設(shè)備上的使用體驗(yàn)有多快多流暢。

卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)教授Mahadev Satyanarayanan（被稱為Satya）長(zhǎng)期研究邊緣計(jì)算——即盡可能接近實(shí)際用戶處理數(shù)據(jù)處理和存儲(chǔ)的概念。他說(shuō)真正邊緣計(jì)算的理想模型是人腦，它不會(huì)將視覺、識(shí)別、語(yǔ)音或智能等任務(wù)外包給任何形式的"云端"。所有處理都在本地進(jìn)行，完全"設(shè)備端"完成。

"問(wèn)題是：自然界花了十億年才進(jìn)化出我們，"他告訴我，"我們沒有十億年等待。我們?cè)噲D在五年或十年內(nèi)完成這個(gè)過(guò)程。我們?nèi)绾渭铀龠@種進(jìn)化？"

答案是通過(guò)在更好、更快、更小的硬件上運(yùn)行更好、更快、更小的AI來(lái)加速進(jìn)化。正如我們已經(jīng)在最新的應(yīng)用和設(shè)備中看到的那樣——包括在CES 2026上展示的那些——這一進(jìn)程已經(jīng)在順利進(jìn)行。

AI可能現(xiàn)在就在你的手機(jī)上運(yùn)行

設(shè)備端AI遠(yuǎn)非新鮮事物。還記得2017年你第一次能夠通過(guò)將iPhone舉在面前來(lái)解鎖它嗎？那種面部識(shí)別技術(shù)使用了設(shè)備端神經(jīng)引擎——雖然它不是像Claude或ChatGPT那樣的生成式AI，但它確實(shí)是基礎(chǔ)的人工智能。

今天的iPhone使用更強(qiáng)大、更多功能的設(shè)備端AI模型。它擁有約30億個(gè)參數(shù)——語(yǔ)言模型中給予概率的個(gè)別權(quán)重計(jì)算。與大多數(shù)AI聊天機(jī)器人運(yùn)行的大型通用模型相比，這相對(duì)較小。例如，Deepseek-R1擁有6710億個(gè)參數(shù)。但它不是為了做所有事情而設(shè)計(jì)的。相反，它是為特定的設(shè)備端任務(wù)而構(gòu)建的，比如總結(jié)消息。就像解鎖手機(jī)的面部識(shí)別技術(shù)一樣，這是不能依賴互聯(lián)網(wǎng)連接來(lái)運(yùn)行云端模型的功能。

蘋果已經(jīng)提升了其設(shè)備端AI能力——稱為Apple Intelligence——包括視覺識(shí)別功能，比如讓你查找截圖中的內(nèi)容。

設(shè)備端AI模型無(wú)處不在。Google的Pixel手機(jī)在其定制的Tensor G5芯片上運(yùn)行公司的Gemini Nano模型。該模型支持Magic Cue等功能，可以在你需要時(shí)從郵件、消息等中提取信息，而無(wú)需手動(dòng)搜索。

手機(jī)、筆記本電腦、平板電腦及其內(nèi)部硬件的開發(fā)者正在構(gòu)建考慮到AI的設(shè)備。但這超越了這些設(shè)備。想想智能手表和眼鏡，它們提供的空間甚至比最薄的手機(jī)還要有限？

"系統(tǒng)挑戰(zhàn)是非常不同的，"高通公司生成式AI和機(jī)器學(xué)習(xí)負(fù)責(zé)人Vinesh Sukumar說(shuō)。"我能在所有設(shè)備上完成所有任務(wù)嗎？"

目前，答案通常是否定的。解決方案相當(dāng)直接。當(dāng)請(qǐng)求超出模型能力時(shí)，它會(huì)將任務(wù)外包給基于云的模型。但根據(jù)這種交接的管理方式，它可能會(huì)破壞設(shè)備端AI的關(guān)鍵優(yōu)勢(shì)之一：將數(shù)據(jù)完全掌握在自己手中。

更私密和安全的AI

專家反復(fù)指出隱私和安全是設(shè)備端AI的關(guān)鍵優(yōu)勢(shì)。在云環(huán)境中，數(shù)據(jù)到處傳輸，面臨更多漏洞時(shí)刻。如果它保留在加密的手機(jī)或筆記本電腦驅(qū)動(dòng)器上，保護(hù)起來(lái)就容易得多。

設(shè)備AI模型使用的數(shù)據(jù)可能包括你的偏好、瀏覽歷史或位置信息等。雖然所有這些對(duì)于AI根據(jù)你的偏好個(gè)性化體驗(yàn)至關(guān)重要，但這也是你可能不希望落入不法分子手中的信息類型。

"我們正在推動(dòng)的是確保用戶能夠訪問(wèn)并且是該數(shù)據(jù)的唯一所有者，"Sukumar說(shuō)。

有幾種不同的方式來(lái)處理信息外包以保護(hù)你的隱私。一個(gè)關(guān)鍵因素是你必須給予許可才能進(jìn)行外包。Sukumar說(shuō)，高通的目標(biāo)是確保人們?cè)谀Ｐ瓦_(dá)到需要外包到云端的程度時(shí)，能夠獲得信息并有能力說(shuō)不。

另一種方法——可以與要求用戶許可并行使用——是確保發(fā)送到云端的任何數(shù)據(jù)都得到安全、簡(jiǎn)短和臨時(shí)的處理。例如，蘋果使用稱為私有云計(jì)算的技術(shù)。外包的數(shù)據(jù)只在蘋果自己的服務(wù)器上處理，只發(fā)送任務(wù)所需的最少數(shù)據(jù)，并且不會(huì)存儲(chǔ)或讓蘋果訪問(wèn)。

沒有AI成本的AI

在設(shè)備上運(yùn)行的AI模型對(duì)應(yīng)用開發(fā)者和用戶都有一個(gè)優(yōu)勢(shì)，即運(yùn)行它們的持續(xù)成本基本為零。無(wú)需向云服務(wù)公司支付能源和計(jì)算能力費(fèi)用。一切都在你的手機(jī)里。你的口袋就是數(shù)據(jù)中心。

這正是噪音機(jī)應(yīng)用Dark Noise的開發(fā)者Charlie Chapman選擇使用蘋果基礎(chǔ)模型框架來(lái)制作聲音混合工具的原因。設(shè)備端AI模型不是生成新音頻，而是選擇不同的現(xiàn)有聲音和音量級(jí)別來(lái)制作一個(gè)混合音效。

因?yàn)锳I在設(shè)備端運(yùn)行，所以在你制作混合音效時(shí)沒有持續(xù)成本。對(duì)于像Chapman這樣的小開發(fā)者來(lái)說(shuō)，這意味著與應(yīng)用用戶群規(guī)模相關(guān)的風(fēng)險(xiǎn)更小。"如果某個(gè)網(wǎng)紅隨便發(fā)布了關(guān)于它的內(nèi)容，我突然獲得了大量免費(fèi)用戶，這并不意味著我會(huì)突然破產(chǎn)，"Chapman說(shuō)。

設(shè)備端AI缺乏持續(xù)成本使得像數(shù)據(jù)錄入這樣的小型重復(fù)任務(wù)可以在沒有巨額成本或計(jì)算合同的情況下實(shí)現(xiàn)自動(dòng)化，Chapman說(shuō)。缺點(diǎn)是設(shè)備端模型因設(shè)備而異，因此開發(fā)者必須做更多工作來(lái)確保他們的應(yīng)用在不同硬件上工作。

AI任務(wù)越多在消費(fèi)設(shè)備上處理，AI公司在大規(guī)模數(shù)據(jù)中心建設(shè)上的支出就越少，而這種建設(shè)讓每家主要科技公司都在爭(zhēng)奪現(xiàn)金和計(jì)算機(jī)芯片。"基礎(chǔ)設(shè)施成本如此巨大，"Sukumar說(shuō)。"如果你真的想推動(dòng)規(guī)?；?，你不會(huì)想推動(dòng)這種成本負(fù)擔(dān)。"

未來(lái)全在于速度

特別是當(dāng)涉及到眼鏡、手表和手機(jī)等設(shè)備上的功能時(shí)，AI和機(jī)器學(xué)習(xí)的真正實(shí)用性很大程度上不像我在文章開頭用來(lái)制作貓咪故事的聊天機(jī)器人。而是像物體識(shí)別、導(dǎo)航和翻譯這樣的功能。這些需要更專業(yè)的模型和硬件——但它們也需要更快的速度。

卡內(nèi)基梅隆大學(xué)教授Satya一直在研究AI模型的不同用途，以及它們是否能夠使用設(shè)備端模型準(zhǔn)確快速地工作。當(dāng)涉及到物體圖像分類時(shí)，今天的技術(shù)表現(xiàn)相當(dāng)不錯(cuò)——能夠在100毫秒內(nèi)提供準(zhǔn)確結(jié)果。"五年前，我們根本無(wú)法獲得那種準(zhǔn)確度和速度，"他說(shuō)。

但對(duì)于其他四項(xiàng)任務(wù)——物體檢測(cè)、即時(shí)分割（識(shí)別物體及其形狀的能力）、活動(dòng)識(shí)別和物體跟蹤——設(shè)備仍然需要外包給其他地方更強(qiáng)大的計(jì)算機(jī)。

"我認(rèn)為在接下來(lái)的幾年，大約五年左右，這將非常令人興奮，因?yàn)橛布?yīng)商不斷努力使移動(dòng)設(shè)備更好地適應(yīng)AI，"Satya說(shuō)。"同時(shí)，AI算法本身也變得更強(qiáng)大、更準(zhǔn)確、計(jì)算更密集。"

機(jī)遇是巨大的。Satya說(shuō)，未來(lái)的設(shè)備可能能夠使用計(jì)算機(jī)視覺在你在不平坦路面上絆倒之前提醒你，或者提醒你正在與誰(shuí)交談，并提供你過(guò)去與他們溝通的背景信息。這些事情將需要更專業(yè)的AI和更專業(yè)的硬件。

"這些將會(huì)出現(xiàn)，"Satya說(shuō)。"我們能在地平線上看到它們，但它們還沒有到來(lái)。"

Q&A

Q1：設(shè)備端AI與云端AI相比有什么優(yōu)勢(shì)？

A：設(shè)備端AI主要有三個(gè)優(yōu)勢(shì)：速度更快，因?yàn)闊o(wú)需等待數(shù)據(jù)傳輸?shù)皆贫?；隱私更安全，數(shù)據(jù)保留在本地設(shè)備上；成本更低，無(wú)需支付云服務(wù)費(fèi)用，且可在無(wú)網(wǎng)絡(luò)情況下工作。

Q2：目前設(shè)備端AI模型的限制是什么？

A：設(shè)備端AI模型通常參數(shù)較少，功能相對(duì)有限。例如iPhone的設(shè)備端AI模型約有30億參數(shù)，而云端大語(yǔ)言模型如Deepseek-R1有6710億參數(shù)。對(duì)于復(fù)雜任務(wù)如物體檢測(cè)、即時(shí)分割等，設(shè)備仍需外包到更強(qiáng)大的云端計(jì)算機(jī)。

Q3：未來(lái)設(shè)備端AI會(huì)如何發(fā)展？

A：未來(lái)五年內(nèi)，設(shè)備端AI將在硬件和算法兩方面快速發(fā)展。硬件供應(yīng)商正在開發(fā)更適合AI的移動(dòng)設(shè)備，AI算法也在變得更強(qiáng)大準(zhǔn)確。未來(lái)設(shè)備可能實(shí)現(xiàn)計(jì)算機(jī)視覺預(yù)警、實(shí)時(shí)身份識(shí)別等功能，但仍需要更專業(yè)的AI和硬件支持。