800個(gè)房產(chǎn)經(jīng)紀(jì)人同時(shí)用AI跑客戶分析，后臺(tái)卻只用3個(gè)工程師維護(hù)——這不是什么SaaS神話，是紐約地產(chǎn)公司SERHANT.去年交出的真實(shí)數(shù)據(jù)。他們的秘密武器叫S.MPLE，一個(gè)從內(nèi)部試點(diǎn)干到全員標(biāo)配的AI工具，核心邏輯簡(jiǎn)單粗暴：讓模型互相打工，哪個(gè)便宜用哪個(gè)。

2024年2月，Jeremy Bunting以工程VP身份加入時(shí)，S.MPLE已經(jīng)跑了200人內(nèi)測(cè)。這個(gè)Next.js應(yīng)用搭在Vercel上，前端是漸進(jìn)式網(wǎng)頁，后來順手?jǐn)U了個(gè)React Native iOS版，后端沒動(dòng)一磚一瓦。Bunting的焦慮不在技術(shù)債，在AI本身——"這行變化比你的迭代周期還快，選錯(cuò)模型等于白干三個(gè)月"。

AI SDK：把"綁死一家"變成"隨時(shí)跳槽"

Bunting最初對(duì)Vercel的AI SDK有本能警惕。他直接問團(tuán)隊(duì)："這玩意會(huì)不會(huì)把我們鎖死在Vercel生態(tài)里？"一個(gè)工程師的回應(yīng)讓他改了主意——"這不是基礎(chǔ)設(shè)施綁定，是基礎(chǔ)設(shè)施獨(dú)立"。

翻譯成人話：SDK只是層翻譯官，OpenAI、Claude、Gemini的API格式千差萬別，SDK幫你抹平差異。想換模型？改行配置的事，不用重寫業(yè)務(wù)邏輯。

Bunting算過一筆賬。如果團(tuán)隊(duì)all in某個(gè)前沿模型，每次廠商漲價(jià)、降速、抽風(fēng)，都得跟著重寫 fallback 邏輯。AI SDK把"模型選擇"變成了配置文件里的下拉菜單，"認(rèn)知負(fù)荷直接砍半"。

AI Gateway是另一張牌。團(tuán)隊(duì)內(nèi)部有人自己揣著API key做原型，Gateway照樣能統(tǒng)一監(jiān)控用量、成本和響應(yīng)延遲。Bunting的原話："調(diào)試快了，優(yōu)化快了，花錢花在哪也清楚了。"

三模型混打：復(fù)雜任務(wù)給Claude，快響應(yīng)丟給Gemini

省下來的工程時(shí)間，全砸在"什么任務(wù)配什么模型"的實(shí)驗(yàn)上。SERHANT.的打法很現(xiàn)實(shí)——沒有全能選手，只有分工協(xié)作：

Claude Sonnet處理復(fù)雜、需要準(zhǔn)確性的任務(wù)。房產(chǎn)市場(chǎng)分析涉及多源數(shù)據(jù)交叉驗(yàn)證，容錯(cuò)率低，Claude的"長(zhǎng)思考"模式更穩(wěn)。

Gemini Flash跑輕量級(jí)、高并發(fā)的查詢?？蛻魡?這套房學(xué)區(qū)怎么樣"，響應(yīng)速度比深度分析更重要，Gemini的定價(jià)和延遲都占優(yōu)。

OpenAI GPT-4o作為中間地帶的默認(rèn)選項(xiàng)。當(dāng)任務(wù)復(fù)雜度介于兩者之間，或者需要特定功能調(diào)用時(shí)，4o的通用性兜底。

這套"模型路由"策略直接寫在AI SDK的配置層里。Bunting透露，某些場(chǎng)景下通過任務(wù)分流，成本壓低了40%以上——不是砍功能，是讓便宜的模型干便宜的活。

從200人到800人：沒重構(gòu)，只加配置

S.MPLE的擴(kuò)張路徑有點(diǎn)反常識(shí)。傳統(tǒng)SaaS擴(kuò)到4倍用戶量，通常要?jiǎng)蛹軜?gòu)、分庫、加緩存。SERHANT.的工程師數(shù)沒漲，后臺(tái)還是那套Next.js + Vercel，變化只發(fā)生在配置表里。

Bunting把這歸功于"提前買的靈活性"。2024年初選技術(shù)棧時(shí)，團(tuán)隊(duì)賭的是"模型層會(huì)劇烈震蕩"，而不是"某個(gè)廠商會(huì)贏"?，F(xiàn)在看，這個(gè)賭對(duì)了——Claude 3.5、GPT-4o、Gemini 1.5的發(fā)布節(jié)奏比手機(jī)換代還快，鎖死任何一家都是技術(shù)自殺。

一個(gè)細(xì)節(jié)：S.MPLE的iOS版和網(wǎng)頁版共享同一套API層。React Native的決策當(dāng)初被質(zhì)疑過"是不是太偷懶"，但現(xiàn)在新功能上線，兩端同步更新，不用養(yǎng)兩個(gè)后端團(tuán)隊(duì)。

房產(chǎn)經(jīng)紀(jì)人的使用數(shù)據(jù)也在反哺模型選擇。哪些查詢類型容易觸發(fā)Claude的拒絕響應(yīng)？哪些場(chǎng)景下Gemini的幻覺率更高？Gateway的日志成了迭代地圖，"下個(gè)月可能又把權(quán)重調(diào)一遍"，Bunting說。

現(xiàn)在S.MPLE每天處理數(shù)萬次AI交互，后臺(tái)的模型組合仍在動(dòng)態(tài)調(diào)整。最后一個(gè)被驗(yàn)證的改動(dòng)是：把部分摘要任務(wù)從GPT-4o遷移到Gemini Flash，延遲從2.3秒降到0.8秒，成本再砍一截——而實(shí)現(xiàn)這個(gè)改動(dòng)，工程師只花了15分鐘改配置。