你剛在GTC聽完黃仁勛說"數(shù)據(jù)中心就是token工廠"，轉(zhuǎn)身就發(fā)現(xiàn)有人已經(jīng)在建這座工廠的管道系統(tǒng)了。以色列創(chuàng)業(yè)公司NeuReality周一宣布，挖來Google Labs產(chǎn)品管理總監(jiān)Shalini Agarwal擔(dān)任戰(zhàn)略顧問——不是掛名，是實(shí)打?qū)嵰獛退彝评聿僮飨到y(tǒng)NR-NEXUS打進(jìn)企業(yè)市場。

從芯片到軟件：一家以色列公司的"斷臂求生"

NeuReality的故事有點(diǎn)曲折。這家公司最初是做AI推理專用芯片的，后來整個(gè)兒調(diào)轉(zhuǎn)船頭，押注軟件層?，F(xiàn)在的NR-NEXUS被包裝成"硬件無關(guān)的推理操作系統(tǒng)"，說白了就是讓一堆亂七八糟的GPU、CPU、網(wǎng)卡能協(xié)同干活，別讓昂貴的算力卡在那兒空轉(zhuǎn)。

這個(gè)轉(zhuǎn)向發(fā)生在2024年9月前后。當(dāng)時(shí)前GlobalFoundries和Intel Capital高管Hiren Majmudar加盟擔(dān)任總裁，已經(jīng)暗示了戰(zhàn)略重心的遷移。Agarwal的加入是這盤棋的最新一步——她帶著近二十年的產(chǎn)品策略經(jīng)驗(yàn)，在Google Labs管過AI產(chǎn)品線，之前在eBay待了將近十年，MIT的計(jì)算機(jī)+電子工程+管理科學(xué)三學(xué)位背景。

不過要厘清一點(diǎn)：她的職位是adviser，不是全職操盤。真正掌舵的還是聯(lián)合創(chuàng)始人兼CEO Moshe Tanach。但硅谷大廠總監(jiān)的名頭寫在新聞稿里，對(duì)一家想敲開企業(yè)大門的以色列公司來說，本身就是張信用背書。

NR-NEXUS到底在解決什么問題

3月12日，NeuReality正式發(fā)布了NR-NEXUS。技術(shù)文檔里的關(guān)鍵詞是"disaggregation"——把大模型的prefill（預(yù)填充）和decode（解碼）兩個(gè)階段拆開，扔到不同的硬件上跑。

這么做有個(gè)現(xiàn)實(shí)背景：企業(yè)買的GPU集群往往是 heterogeneous（異構(gòu)）的，NVIDIA的新舊架構(gòu)混著用，可能還插著些CPU和專用網(wǎng)卡。傳統(tǒng)做法是讓每塊卡自己啃完整的推理流程，結(jié)果就是有的卡忙死、有的卡閑死，整體利用率難看。

NR-NEXUS想當(dāng)?shù)氖沁@層調(diào)度中間件。按NeuReality的說法，它支持任何CPU、GPU、NIC，包括NVIDIA還沒正式出貨的Vera Rubin架構(gòu)。Beta客戶已經(jīng)在跑了，但具體是誰——公司嘴很嚴(yán)，一個(gè)名字都沒漏。

這個(gè)市場timing卡得微妙。Deloitte的估算顯示，2025年推理 workload 占AI算力消耗的50%，今年要沖到三分之二。亞馬遜喊出了2026年2000億美金的資本開支，Google也準(zhǔn)備了1750-1850億美金。但這些錢大部分流向了垂直整合的封閉體系——AWS的Trainium、Google的TPU、NVIDIA的完整軟件棧。想買混合硬件自己搭 inference infrastructure 的企業(yè)，選擇其實(shí)不多。

Agarwal要啃的三塊硬骨頭

NeuReality在新聞稿里明說了目標(biāo)客群分三類：neocloud provider（新興云服務(wù)商）、企業(yè)自建AI工廠、以及想優(yōu)化現(xiàn)有GPU利用率的傳統(tǒng)數(shù)據(jù)中心。每一類都是硬茬。

Neocloud這邊，CoreWeave、Lambda Labs這些玩家正在瘋狂搶市場，但它們的核心競爭力是拿卡能力和融資速度，對(duì)"第三方調(diào)度軟件"的接受度存疑——多一層抽象就意味著多一層潛在故障點(diǎn)。

企業(yè)客戶更現(xiàn)實(shí)：CIO們2024年被"AI轉(zhuǎn)型"忽悠怕了，2025年預(yù)算審批格外嚴(yán)格。NR-NEXUS要證明的不是技術(shù)先進(jìn)性，是ROI——裝上之后，現(xiàn)有GPU能多擠出多少有效算力，多久能回本。

至于傳統(tǒng)數(shù)據(jù)中心，這是最諷刺的一類客戶。他們手里可能攢著各種型號(hào)的NVIDIA卡，甚至還有些AMD的MI系列，但運(yùn)維團(tuán)隊(duì)的學(xué)習(xí)成本是真實(shí)存在的。NeuReality的銷售得說服他們：為了省20-30%的算力浪費(fèi)，值得再引入一套全新的軟件依賴。

Agarwal在Google Labs的經(jīng)歷在這里可能派上用場。那是個(gè)專門孵化和早期產(chǎn)品化的部門，擅長把技術(shù)demo包裝成可售賣的企業(yè)方案。她在eBay的十年則覆蓋了電商平臺(tái)的規(guī)模化運(yùn)營——對(duì)" heterogeneous infrastructure "的痛點(diǎn)不會(huì)陌生。

推理賽道的"隱形戰(zhàn)爭"

NeuReality的賭注背后，是整個(gè)AI基礎(chǔ)設(shè)施層的權(quán)力重構(gòu)。訓(xùn)練階段NVIDIA的統(tǒng)治地位幾乎不可撼動(dòng)，但推理階段的故事還沒寫完。模型壓縮、量化技術(shù)、專用芯片、調(diào)度軟件——每個(gè)環(huán)節(jié)都在爭奪"誰能在每一美元算力里榨出更多token"。

NR-NEXUS的定位有點(diǎn)像Kubernetes早期的故事：不是替代底層硬件，而是讓上層應(yīng)用不必關(guān)心硬件差異。但Kubernetes花了近十年才被企業(yè)廣泛接受，NeuReality沒有那么多時(shí)間窗口。推理經(jīng)濟(jì)學(xué)的壓力是即時(shí)的，客戶要的是下季度就能體現(xiàn)在財(cái)報(bào)上的成本節(jié)省。

另一個(gè)不確定因素是NVIDIA自己的軟件棧演進(jìn)。CUDA的生態(tài)鎖定已經(jīng)很強(qiáng)，但黃仁勛在GTC上反復(fù)強(qiáng)調(diào)的"推理微服務(wù)"（NIM）和NeuReality的NR-NEXUS存在某種競爭關(guān)系——都是想讓企業(yè)更容易地部署模型，只是NVIDIA想把自己綁得更緊，NeuReality想松一松。

NeuReality的新聞稿里有個(gè)細(xì)節(jié)值得玩味：他們特意提到支持Vera Rubin，這是NVIDIA下一代架構(gòu)的代號(hào)，正式產(chǎn)品還沒上市。這種"提前站隊(duì)"的表態(tài)，既是對(duì)潛在客戶的 reassurance，也是一種微妙的姿態(tài)——我們?cè)贜VIDIA的生態(tài)系統(tǒng)里，但不是它的附庸。

截至發(fā)稿，NeuReality尚未披露新一輪融資信息。公司上一次公開融資是2023年的3500萬美元A輪，由Samsung Ventures和AnaMa Ventures領(lǐng)投。以當(dāng)前AI基礎(chǔ)設(shè)施賽道的估值水平，如果NR-NEXUS的Beta客戶能轉(zhuǎn)化為付費(fèi)案例，下一輪應(yīng)該不會(huì)太遠(yuǎn)。

Agarwal的LinkedIn頁面尚未更新這條任命。Google Labs那邊也沒有回應(yīng)置評(píng)請(qǐng)求——大廠高管的"顧問"頭銜，有時(shí)候是離職過渡期，有時(shí)候是真心看好押注，有時(shí)候兩者兼有。對(duì)NeuReality來說，重要的是這個(gè)名字出現(xiàn)在了周一的新聞稿里，在GTC的余溫中，蹭上了"token工廠"的敘事熱度。