文｜劉俊宏

編｜王一粟

2016年7月，馬斯克終止了特斯拉與智駕芯片供應(yīng)商Mobileye的合作。

這場(chǎng)分手的背后，是自動(dòng)駕駛技術(shù)全棧閉環(huán)的理念之爭(zhēng)。特斯拉當(dāng)時(shí)要做技術(shù)全棧閉環(huán)，需要掌控?cái)?shù)據(jù)和算法，但Mobileye始終不同意完全開(kāi)放。談判破裂后，馬斯克下定決心走上軟硬一體的路線。在后來(lái)多次財(cái)報(bào)電話會(huì)上，馬斯克感慨，正是這次“自己造芯”的冒險(xiǎn)，才讓特斯拉在自動(dòng)駕駛賽道建立了難以逾越的護(hù)城河。

如今，中國(guó)的自動(dòng)駕駛玩家也來(lái)到了軟硬一體的階段。

站在2026年這個(gè)節(jié)點(diǎn)，我們能看到非常多自動(dòng)駕駛玩家的自研芯片有了實(shí)質(zhì)進(jìn)展。其中，蔚來(lái)神璣芯片和小鵬圖靈芯片已經(jīng)上車，理想的馬赫100芯片也即將隨著全新理想L9亮相。

但在這個(gè)過(guò)程中，行業(yè)普遍遇到的一個(gè)共性問(wèn)題就是：自研芯片開(kāi)發(fā)成本極高，軟件適配難度極大。芯片流片一次動(dòng)輒數(shù)十億，算法團(tuán)隊(duì)還要花數(shù)月時(shí)間反復(fù)適配、調(diào)優(yōu)，稍有不慎就會(huì)出現(xiàn)“芯片算力拉滿、實(shí)際效能卻打折”的尷尬局面。

如果說(shuō)自研芯片是自動(dòng)駕駛行業(yè)的必然趨勢(shì)，那如何才能解決高昂成本和軟硬適配的痛點(diǎn)？近日，理想汽車公布了一項(xiàng)研究成果，為智駕軟硬結(jié)合提供了理論支撐。

在過(guò)去幾年里，自動(dòng)駕駛的一條主線是算力競(jìng)賽。消費(fèi)者看硬件參數(shù)、車企拼TOPS，大家似乎都相信，更大的算力就能證明智駕能力更強(qiáng)。在發(fā)展的過(guò)程中，我們也見(jiàn)證了智駕芯片從英偉達(dá)Orin的254 TOPS到Thor的1000 TOPS，再到國(guó)產(chǎn)自研芯片的更大算力，數(shù)據(jù)不斷刷新。

但智駕真的百分百適用于Scaling Law嗎？

不完全是這樣。例如當(dāng)行業(yè)進(jìn)入VLA（視覺(jué)-語(yǔ)言-行動(dòng)）模型時(shí)代之后，自動(dòng)駕駛就遇到了前所未有的難題。一方面，VLA作為一個(gè)邏輯自洽的技術(shù)架構(gòu)，需要更高的認(rèn)知智能才能發(fā)揮實(shí)力。它要像人類司機(jī)一樣“看懂場(chǎng)景、理解意圖、作出決策”。另一方面，汽車智駕跟云端大模型完全不一樣。車載芯片受限于功耗、散熱、成本、實(shí)時(shí)性、安全冗余，根本不能盲目堆參數(shù)、堆算力。造成的結(jié)果就是，模型越來(lái)越聰明，芯片卻有點(diǎn)“跟不上”。

本次理想提出的“端側(cè)大語(yǔ)言模型的軟硬協(xié)同設(shè)計(jì)定律”，就指出了破局的關(guān)鍵。

本次研究，理想回答了兩個(gè)核心問(wèn)題。第一是芯片峰值性能并不等于實(shí)際系統(tǒng)效能，芯片的有效算力更重要；第二是通過(guò)數(shù)學(xué)手段，能構(gòu)建一套可量化、可預(yù)測(cè)、可落地的數(shù)學(xué)框架，讓“算法定義芯片”從空談變成現(xiàn)實(shí)。

一句話總結(jié)就是，智駕軟件和硬件能夠找到一個(gè)場(chǎng)景最佳的解法。同時(shí)，相互合適的硬件和軟件，是能通過(guò)協(xié)同設(shè)計(jì)的方式來(lái)發(fā)現(xiàn)的。

基于這項(xiàng)研究結(jié)果，理想準(zhǔn)備在全新理想L9落地自研的馬赫100芯片，挑戰(zhàn)汽車智能的上限。

那么，理想發(fā)現(xiàn)的軟硬協(xié)同設(shè)計(jì)定律到底講了什么？到底想要解決行業(yè)的什么痛點(diǎn)？我們一起來(lái)看這項(xiàng)研究。

算法和芯片，需要“商量著”一起長(zhǎng)大

過(guò)去幾年里，英偉達(dá)計(jì)算平臺(tái)幾乎是汽車高階智駕的標(biāo)配。但隨著智駕技術(shù)發(fā)展，英偉達(dá)的對(duì)手越來(lái)越多。車企這邊，選擇自研芯片的有理想、小鵬、蔚來(lái)等廠商。芯片廠商這邊，AMD、高通近幾年也加入“戰(zhàn)場(chǎng)”，共同分食英偉達(dá)的“蛋糕”。

為什么汽車廠商要選擇更換計(jì)算平臺(tái)？這場(chǎng)變革的背后，是自動(dòng)駕駛技術(shù)撞上了兩堵硬墻。

第一堵墻是大模型進(jìn)化極快，芯片迭代卻相對(duì)緩慢，導(dǎo)致硬件迭代速度有點(diǎn)跟不上了。在VLA逐漸成為主流技術(shù)范式的當(dāng)下，智駕模型的參數(shù)規(guī)模、訓(xùn)練數(shù)據(jù)、能力邊界幾乎每幾個(gè)月就刷新一次，而車規(guī)級(jí)芯片從設(shè)計(jì)到流片、驗(yàn)證、上車，往往需要3-5年時(shí)間。對(duì)于這些新的模型需求，不少新計(jì)算平臺(tái)開(kāi)始強(qiáng)調(diào)對(duì)MoE稀疏計(jì)算有原生支持、提供KV緩存超大容量，或能實(shí)現(xiàn)動(dòng)態(tài)資源調(diào)度。種種跡象，意味著過(guò)去“公認(rèn)”的計(jì)算平臺(tái)已經(jīng)越來(lái)越難以滿足VLA時(shí)代的性能需求。

另一堵墻則是，自動(dòng)駕駛行業(yè)發(fā)現(xiàn)通用計(jì)算平臺(tái)不能完全發(fā)揮模型能力上限。智駕模型需要芯片具備特定參數(shù)的性能，而這恰恰是通用計(jì)算平臺(tái)難以滿足的。例如智駕模型做決策時(shí)，需要大量MoE調(diào)用能力，但通用計(jì)算平臺(tái)缺乏對(duì)稀疏計(jì)算原生支持，也缺乏對(duì)量化的原生支持。智駕保障行車安全需要低延遲反饋，但通用計(jì)算平臺(tái)會(huì)“相互卡任務(wù)”不能保障輸出穩(wěn)定。這導(dǎo)致算法適配最終只能“削足適履”，要么犧牲模型精度，要么犧牲實(shí)時(shí)響應(yīng)，或者增加冗余芯片導(dǎo)致成本飆升。

為了解決這兩項(xiàng)難題，理想在這篇論文中認(rèn)為——軟硬件協(xié)同設(shè)計(jì)是破局的關(guān)鍵。

具體來(lái)說(shuō)，理想用了兩個(gè)核心數(shù)學(xué)手段來(lái)實(shí)現(xiàn)這一協(xié)同。

第一個(gè)是用損失函數(shù)擴(kuò)展法則的車載化應(yīng)用，用低成本“算出”模型能力上限。這其實(shí)是行業(yè)大模型研發(fā)比較普遍的流程。基本原理是大模型本身有一個(gè)“錯(cuò)誤率”，模型越小“錯(cuò)誤率”越大，但“錯(cuò)誤率”的增長(zhǎng)曲線可以預(yù)測(cè)。這就意味著只要給定模型超參（參數(shù)量、層數(shù)、FFN倍數(shù)等），就能無(wú)需完整訓(xùn)練，直接預(yù)測(cè)最終精度。

簡(jiǎn)單來(lái)說(shuō)，就是只要用小模型跑幾次就能算出“大模型大概能聰明到什么程度”，從而省下天價(jià)的GPU電費(fèi)和時(shí)間。

另一個(gè)手段是Roofline性能建模的車載化革新，“計(jì)算出”模型所需的關(guān)鍵硬件參數(shù)。Roofline本來(lái)是用于HPC（高性能計(jì)算）的可視化性能分析框架，用于定量評(píng)估應(yīng)用程序處理器上的瓶頸。理想針對(duì)車載場(chǎng)景進(jìn)行了擴(kuò)展，在考慮傳統(tǒng)計(jì)算與內(nèi)存帶寬平衡之外，首次添加了智駕所需的KV緩存（可理解為關(guān)鍵信息緩存）、MoE路由（可以理解為分配專家模型運(yùn)行的機(jī)制）、注意力機(jī)制等大模型特有需求，來(lái)計(jì)算模型對(duì)智駕計(jì)算平臺(tái)的影響。

簡(jiǎn)單來(lái)說(shuō)，就是“算出”計(jì)算平臺(tái)能支持的模型“聰明程度”。

在此基礎(chǔ)上，結(jié)合上述兩個(gè)式子就誕生了PLAS（帕累托最優(yōu)LLM架構(gòu)搜索）框架，從而實(shí)現(xiàn)了協(xié)同設(shè)計(jì)。在公式中，只需要輸入芯片的算力、帶寬、緩存層次，以及工程約束（例如延遲<100ms、功耗、內(nèi)存），自動(dòng)生成最優(yōu)的模型架構(gòu)方案——找到“在當(dāng)前硬件上，精度最高、延遲最低的那條邊界”。簡(jiǎn)單來(lái)說(shuō)，就是能同時(shí)找到算法能力和芯片設(shè)計(jì)的共同最優(yōu)解。

同時(shí)，理想還給出了不同硬件平臺(tái)(Jetson Orin/Thor）上的帕累托最優(yōu)前沿，驗(yàn)證了“硬件協(xié)同設(shè)計(jì)擴(kuò)展定律”的跨硬件平臺(tái)泛化性，找到了英偉達(dá)計(jì)算平臺(tái)的能力上限。

這種設(shè)計(jì)模式最大的價(jià)值就是讓此前行業(yè)“先設(shè)計(jì)芯片再適配算法”或“先開(kāi)發(fā)算法再找芯片”的割裂流程徹底成為歷史。

“本來(lái)Orin芯片是不支持跑語(yǔ)言模型的。但因?yàn)橛ミ_(dá)沒(méi)時(shí)間，所以我們自己寫(xiě)了底層推理引擎”。理想創(chuàng)始人兼CEO李想在一次采訪中稱。

傳統(tǒng)的流程，一邊是芯片工程師在拼命追求算力更強(qiáng)，一邊是算法工程師在拼命追求模型更智能，但兩者對(duì)接時(shí)才發(fā)現(xiàn)“不兼容”，造成大量資源浪費(fèi)。協(xié)同設(shè)計(jì)就是要打破隔閡，讓芯片和算法從一開(kāi)始就緊密配合，讓算法和芯片從一開(kāi)始就“商量著”一起長(zhǎng)大。

對(duì)于自動(dòng)駕駛行業(yè)準(zhǔn)備走軟硬一體路線的玩家來(lái)說(shuō)，理想的研究無(wú)疑向行業(yè)交了一把可復(fù)制的鑰匙。

沒(méi)有通用芯片，只有場(chǎng)景最優(yōu)芯片

理想關(guān)于協(xié)同設(shè)計(jì)的數(shù)學(xué)計(jì)算過(guò)程并不困難。但在AI時(shí)代，一個(gè)好問(wèn)題的價(jià)值，要遠(yuǎn)勝于無(wú)數(shù)淺薄的信息。

為什么理想要進(jìn)行協(xié)同設(shè)計(jì)的研究？因?yàn)樗茉缇团錾狭俗詣?dòng)駕駛技術(shù)落地的難題。

“在車載芯片上部署VLM面臨巨大挑戰(zhàn)，尤其是在主流的 Orin-X 芯片上，該芯片在設(shè)計(jì)之初并未考慮大模型的應(yīng)用需求。因此，我們?cè)诓渴疬^(guò)程中需克服諸多工程難題。”

正如理想汽車基座模型負(fù)責(zé)人詹錕在2024年所說(shuō)。早在英偉達(dá)Orin芯片落地高階智駕的時(shí)期，理想就深刻體會(huì)到“軟硬割裂”的痛苦。平心而論，英偉達(dá)計(jì)算平臺(tái)確實(shí)提供了強(qiáng)大的理論算力，但在實(shí)際部署大語(yǔ)言模型時(shí)，理想的技術(shù)團(tuán)隊(duì)常發(fā)現(xiàn)“芯片峰值性能≠實(shí)際系統(tǒng)效能”的困境。

精心設(shè)計(jì)的模型架構(gòu)往往無(wú)法充分利用硬件特性，而為了硬件適配做出的妥協(xié)又可能損害模型智能。這簡(jiǎn)直就像是一尊精致的雕像，只能以殘缺的狀態(tài)展示給觀眾。這種割裂感讓理想下定決心，必須從根本上解決。

解決的思路，是理想決定從提升模型性能入手，同時(shí)試圖找到兼顧模型落地的時(shí)間、硬件和應(yīng)用成本的答案。具體目標(biāo)包括：把模型設(shè)計(jì)和選擇的周期從數(shù)月壓縮至一周；無(wú)需盲目使用更貴的芯片，也能為用戶帶來(lái)更好的智能體驗(yàn)；根據(jù)應(yīng)用場(chǎng)景，快速選出最適合的模型配置，整體縮短開(kāi)發(fā)周期。

根據(jù)這項(xiàng)研究，理想將上述目標(biāo)提煉成了6個(gè)核心結(jié)論。每一條都直指車載大模型部署的痛點(diǎn)，并將自研芯片提到了勢(shì)在必行的高度。

首先，稀疏計(jì)算將成為車載AI標(biāo)配。在車載典型的批處理大小為1的場(chǎng)景下，MoE稀疏架構(gòu)100%主導(dǎo)效率前沿。這意味著未來(lái)車載芯片需要原生支持稀疏計(jì)算和動(dòng)態(tài)路由，而非簡(jiǎn)單提供密集矩陣乘算力。簡(jiǎn)單來(lái)說(shuō)，車載AI模型的發(fā)展方向跟云端“大而全”不一樣，計(jì)算平臺(tái)需要原生支持“專且精”的架構(gòu)。

其次，內(nèi)存子系統(tǒng)設(shè)計(jì)比算力峰值更重要。論文指出“寬而淺”的最優(yōu)架構(gòu)形態(tài)表明，內(nèi)存帶寬和緩存效率往往比理論TOPS更能決定系統(tǒng)實(shí)際性能。這意味著芯片內(nèi)存層次設(shè)計(jì)要隨需求變化，例如專門為KV緩存和注意力機(jī)制預(yù)留足夠的高速緩存空間。

第三，階段感知的微架構(gòu)優(yōu)化。在模型運(yùn)作過(guò)程中，Prefill（預(yù)填充）和Decode（解碼）階段對(duì)硬件資源的需求截然不同，Prefill需要大量并行算力單元，猛猛計(jì)算；而Decode階段需要大量?jī)?nèi)存帶寬和空間，算力反而閑置。在常規(guī)GPU設(shè)計(jì)里，這些計(jì)算流程通常都是固定的，但汽車智駕需要兼顧實(shí)時(shí)性和確定性。這代表新的芯片需要支持動(dòng)態(tài)的微架構(gòu)重構(gòu)或資源分配，以保障兩個(gè)階段的計(jì)算都能穩(wěn)定輸出。

第四，打破4倍FFN（前饋網(wǎng)絡(luò)）的固定模式。傳統(tǒng)Transformer架構(gòu)一般默認(rèn)是4倍FFN擴(kuò)展比，就像是個(gè)放大鏡，不管輸入多復(fù)雜都要先把維度擴(kuò)大4倍，算完再壓縮回去。但車載場(chǎng)景下，運(yùn)算資源相對(duì)有限，“火力全開(kāi)就代表著油耗爆炸”。這意味著芯片的矩陣乘單元和激活函數(shù)單元需要更靈活的配比，才能適配VLA模型的實(shí)際負(fù)載分布。

第五，量化加速需要硬件原生支持。為了保證智駕輸出的實(shí)時(shí)性、安全性和功耗要求，理論上智駕模型從FP16或BF16權(quán)重量化到INT8量化的加速因子為2倍。但根據(jù)理想實(shí)際測(cè)試，使用常規(guī)平臺(tái)的加速效果只有1.3-1.6倍。這是因?yàn)樵趽Q算過(guò)程中，非線性算子和精度轉(zhuǎn)換都會(huì)占用資源，這意味著大量運(yùn)算資源被浪費(fèi)。所以，下一代芯片需要在指令集和運(yùn)算單元層面提供混合精度計(jì)算和算子融合的原生支持。

第六，沒(méi)有通用芯片，只有場(chǎng)景最優(yōu)芯片。綜合上述結(jié)論看到，要想最大化模型能力就必須要重新調(diào)整硬件計(jì)算架構(gòu)，這從根本上證明了“算法定義芯片”的必要。只有深度理解上層算法需求，才能設(shè)計(jì)出最高效的專用計(jì)算架構(gòu)。

這些發(fā)現(xiàn)，并不是紙上談兵。為了驗(yàn)證協(xié)同設(shè)計(jì)定律，理想在英偉達(dá)Jetson Orin/Thor平臺(tái)上做了嚴(yán)格對(duì)比測(cè)試。結(jié)果顯示，應(yīng)用協(xié)同設(shè)計(jì)定律優(yōu)化的模型，在與Qwen2.5-0.5B保持完全相同延遲的前提下，實(shí)現(xiàn)了19.42%的精度提升。這直接證明了軟硬協(xié)同設(shè)計(jì)可以實(shí)現(xiàn)“同等硬件、更優(yōu)性能”，能立刻帶來(lái)可量化的工程收益。

對(duì)于產(chǎn)品側(cè)來(lái)說(shuō)，這一發(fā)現(xiàn)也直接促成理想自研馬赫100芯片。作為馬赫100首發(fā)搭載的全新理想L9，李想更是在微博中宣稱，其3倍于英偉達(dá)Thor-U芯片的有效算力，是全球最強(qiáng)的智駕大腦。

擁有了自研芯片，不僅意味著理想從“被動(dòng)適配芯片”轉(zhuǎn)到“算法定義芯片”的階段。更是為中國(guó)自動(dòng)駕駛廠商在VLA時(shí)代提供了可以“開(kāi)箱即用”的理論武器。

李想的AI工程方法論

軟硬結(jié)合、協(xié)同開(kāi)發(fā)，早就是全球每一個(gè)AI巨頭的必修課。

2013年，時(shí)任Google Brain負(fù)責(zé)人的Jeff Dean隨手拿了一張餐巾紙做了一項(xiàng)計(jì)算。結(jié)果顯示，為了支撐用戶使用語(yǔ)音識(shí)別模型，谷歌需要把數(shù)據(jù)中心集群再擴(kuò)建一倍。簡(jiǎn)單幾個(gè)數(shù)字，讓在場(chǎng)的所有高管冷汗直流。

為了避免這場(chǎng)危機(jī)，谷歌當(dāng)機(jī)立斷啟動(dòng)TPU研發(fā)項(xiàng)目。定義硬件的方式，是根據(jù)一篇老論文，將芯片設(shè)計(jì)成匹配算法需要的矩陣運(yùn)算。15個(gè)月后，谷歌做出了TPU，從此不再被GPU“綁架”。如今，通過(guò)谷歌云和Gemini，谷歌將TPU賣到了全世界。

谷歌用實(shí)際行動(dòng)證明，只有軟硬協(xié)同，才能把每一分算力都用在刀刃上。理想在這條路上，也找到了輔助駕駛?cè)珬＜夹g(shù)閉環(huán)的方向。

還記得在2025年時(shí)，智駕技術(shù)領(lǐng)先的玩家還在參考DeepSeek的技術(shù)，用蒸餾的手段讓AI大模型從“云端大模型下車”。理想當(dāng)時(shí)針對(duì)智駕大模型做了一系列預(yù)訓(xùn)練、后訓(xùn)練和強(qiáng)化訓(xùn)練的調(diào)整，才拿出了對(duì)標(biāo)人類智能的“司機(jī)大模型”——VLA。

“我們對(duì)Deepseek R1從上線到后面開(kāi)源都做了相當(dāng)多的研究和擁抱。DeepSeek的速度比想象中快，所以VLA到來(lái)的速度也比想象中快。”李想曾如此總結(jié)說(shuō)。

如今，在完成軟硬一體之后，為車端量身定制的“算法原生模型”能讓智駕實(shí)現(xiàn)感知、決策、規(guī)劃、控制全鏈路都在同一套數(shù)學(xué)框架下優(yōu)化，進(jìn)一步刷新了整個(gè)系統(tǒng)的延遲、精度和能效。

這種轉(zhuǎn)變，本質(zhì)上是AI工程能力的進(jìn)化。過(guò)去還需要工程師根據(jù)經(jīng)驗(yàn)調(diào)優(yōu)、不斷試錯(cuò)迭代，現(xiàn)在靠PLAS框架和數(shù)學(xué)定律，最優(yōu)方案已經(jīng)能實(shí)現(xiàn)“一鍵生成”。

“任何時(shí)候當(dāng)我們想去改變和提升能力，第一步一定是搞研究，第二步是研發(fā)，第三步是把能力表達(dá)出來(lái)，第四步是能力變成業(yè)務(wù)的價(jià)值?！崩钕胝f(shuō)。

理想為了實(shí)現(xiàn)這一目標(biāo)，下了相當(dāng)多的苦功夫。

在基礎(chǔ)研究層面，理想的投入可謂是“豪橫”。近8年來(lái)，理想一直在加大研發(fā)投入。光是2025一年，理想預(yù)計(jì)研發(fā)投入達(dá)到120億元，其中人工智能領(lǐng)域投入達(dá)到60億元。

隨著研發(fā)投入，我們也能清晰看到理想自動(dòng)駕駛技術(shù)的成長(zhǎng)足跡。自2021年至2025年11月，理想圍繞BEV（Bird's-eye-view，鳥(niǎo)瞰圖）、端到端模型、VLM視覺(jué)語(yǔ)言模型、VLA視覺(jué)語(yǔ)言行動(dòng)模型、強(qiáng)化學(xué)習(xí)、世界模型、AI基座模型等領(lǐng)域，發(fā)表近50篇論文，被引用超過(guò)2500次。其中，32篇論文中稿頂會(huì)。

在基礎(chǔ)研究中，理想的組織架構(gòu)也在朝著更適合AI研究的方向演進(jìn)。在今年1月，理想就率先進(jìn)行了一系列組織調(diào)整。其中，理想汽車自動(dòng)駕駛高級(jí)算法專家詹錕接手基座模型業(yè)務(wù)，整體負(fù)責(zé)理想的VLA基座模型研發(fā)，并將相關(guān)技術(shù)研發(fā)團(tuán)隊(duì)充分整合。這代表理想的智駕全面進(jìn)入AI大模型時(shí)代。

1月底，李想在內(nèi)部還明確說(shuō)，將大幅調(diào)整技術(shù)研發(fā)團(tuán)隊(duì)架構(gòu)，參照最先進(jìn)AI公司的運(yùn)作模式，按照協(xié)作構(gòu)建硅基生命的方式重新設(shè)定人員分工。通過(guò)持續(xù)優(yōu)化內(nèi)部架構(gòu)的方式，理想希望公司的算法、芯片、OS團(tuán)隊(duì)實(shí)現(xiàn)深度協(xié)同，讓研究成果能以最快速度轉(zhuǎn)化為量產(chǎn)能力。

也正是基于對(duì)AI的理解，李想也成了汽車圈“最擁護(hù)”AI發(fā)展的CEO。近日，李想還在朋友圈明確感慨，學(xué)會(huì)使用Agent能放大頂級(jí)專家和普通人之間的差距。

或許，AI時(shí)代最重要的法則就是ALL in AI。

曾經(jīng)領(lǐng)先全球的特斯拉FSD（特斯拉自動(dòng)駕駛），在中國(guó)自動(dòng)駕駛廠商技術(shù)全棧閉環(huán)的追趕下，逐漸不再“驚艷”。

軟硬協(xié)同設(shè)計(jì)定律只是一個(gè)開(kāi)始，中國(guó)智能汽車廠商們正在定義汽車智能的上限。