周三下午，一個工程師對著成本報表愣了很久。Cerebras上的推理速度快得不像這個時代，但賬單上的數(shù)字讓他清醒過來——沒有緩存，多輪對話的成本是競爭對手的40倍。

這是RapidNative團(tuán)隊的真實處境。他們把智能體跑在Cerebras上，GLM 4.7的流式輸出"第一次讓人感覺像未來"。但產(chǎn)品復(fù)雜度的膨脹和成本結(jié)構(gòu)的殘酷，把技術(shù)理想拽回了地面。

事情是從簡單到失控的。最初的RapidNative一次只生成一個組件：一個模型、一份系統(tǒng)提示、一塊屏幕輸出。整個系統(tǒng)能裝進(jìn)人的腦子。但真實應(yīng)用需要規(guī)劃模式、子智能體、MCP服務(wù)器、可組合的技能。團(tuán)隊自己造了一套，結(jié)果"系統(tǒng)變得嘈雜"。

與此同時，Claude Code、OpenCode、Flue（Astro作者的新項目）不約而同走向了同一套架構(gòu)：技能、子智能體、規(guī)劃模式、MCP。行業(yè)標(biāo)準(zhǔn)正在收斂，RapidNative的自研方案成了"更差的版本"。

真正的沖擊來自成本核算。Cerebras目前不支持提示緩存。在RapidNative或OpenCode這類編碼會話中，每一輪都要重發(fā)完整對話歷史。有緩存時，只需為新token付費；沒有緩存，每一輪都要為全部歷史買單。

同一模型（GLM 4.7）的對比數(shù)據(jù)：支持緩存的供應(yīng)商 versus Cerebras，會話進(jìn)行幾輪后，token成本差距約40倍。

速度很重要。但沒那么重要。

團(tuán)隊現(xiàn)在的解法是把智能體拆成兩半，都留在Cerebras上。主智能體跑GPT OSS 120B，單token成本比同平臺的GLM 4.7低5-6倍。緩存缺失的問題還在，但更便宜的單價緩解了長對話的失血。屏幕生成子智能體繼續(xù)用GLM 4.7，短上下文、單次輸出，速度是核心賣點，沒有長歷史需要重發(fā)，緩存缺失的傷害有限。

同一個供應(yīng)商，不同模型對應(yīng)不同子任務(wù)。推理正在從單一端點變成路由器。

這不是撤離Cerebras的計劃。恰恰相反——在他們上線緩存之前，用更便宜的模型對沖長上下文成本，是一種權(quán)宜。一旦Cerebras支持提示緩存，40倍的差距會瞬間抹平，眼下這套架構(gòu)折騰也就失去了必要。

團(tuán)隊最期待的事很明確：Cerebras加上提示緩存。在那之前，同平臺換用低價模型是正在評估的過渡方案。

技術(shù)選型永遠(yuǎn)是在多個變量間找平衡。速度、成本、功能完整性，很少能同時滿分。RapidNative的困境和應(yīng)對，其實是AI基礎(chǔ)設(shè)施成熟期的典型樣本——當(dāng)?shù)讓幽芰Τ霈F(xiàn)階段性盲區(qū)，應(yīng)用層只能用架構(gòu)復(fù)雜度來換生存空間。

緩存會來的。問題是，多少團(tuán)隊能撐到那時候，以及為此要付多少學(xué)費。