凌晨三點(diǎn)，某AI團(tuán)隊(duì)的技術(shù)負(fù)責(zé)人盯著監(jiān)控大屏。生產(chǎn)環(huán)境又崩了，原因是提示詞里少了個(gè)逗號(hào)。他打開飛書，把負(fù)責(zé)這塊的同事從被窩里拽出來——這已經(jīng)是本月第四次。

這種場景每天都在上演。而50公里外另一棟寫字樓里，用DSPy的團(tuán)隊(duì)正在睡覺。他們的提示詞優(yōu)化是自動(dòng)的，部署是熱更新的，連模型切換都是一行代碼的事。

但詭異的是，后者的月下載量只有前者的1/50。

4.7M vs 222M：一場不對(duì)稱的戰(zhàn)爭

數(shù)據(jù)不會(huì)說謊。DSPy每月470萬次下載，LangChain 2.22億。差距大到讓人懷疑前者是不是在自娛自樂。

但用戶名單又很奇怪：JetBlue、Databricks、VMware、Sephora、Replit。全是正經(jīng)公司，不是那種追新奇的玩具項(xiàng)目。Zoro UK甚至拿它處理供應(yīng)鏈文檔——這玩意兒出錯(cuò)是要賠錢的。

「DSPy的問題不是錯(cuò)了，是難了?！棺髡逴mar Khattab的原話。這人是斯坦福的，框架就是他寫的。

難在哪？它的抽象層讓你換個(gè)腦子。你現(xiàn)在只想讓痛苦消失，不想重新學(xué)走路。但Khattab觀察到一個(gè)現(xiàn)象：所有人最終都會(huì)實(shí)現(xiàn)一個(gè)更爛的DSPy。他半開玩笑地起了個(gè)名字——Khattab定律，致敬編程界著名的Greenspun定律。

任何足夠復(fù)雜的AI系統(tǒng)，都包含一個(gè)臨時(shí)拼湊、非正式定義、bug纏身、只實(shí)現(xiàn)了DSPy一半功能的內(nèi)部版本。

你會(huì)把這些模式造出來的。只是更慢、更痛、更爛。

從一行代碼到一座屎山：所有人的必經(jīng)之路

假設(shè)你要從文本里提取公司名。最自然的寫法，直接調(diào)OpenAI API：

寫個(gè)函數(shù)，傳字符串，拿結(jié)果。上線，慶祝，喝酒。

但產(chǎn)品說改提示詞要熱更新，不能每次重新部署。你加個(gè)數(shù)據(jù)庫，存模板字符串。

然后發(fā)現(xiàn)輸出格式不穩(wěn)定，JSON有時(shí)候帶markdown代碼塊有時(shí)候不帶。你寫正則清洗，加try-catch，在群里罵OpenAI。

接著要換模型，GPT-4太貴了，試試Claude。你發(fā)現(xiàn)每個(gè)模型的系統(tǒng)提示格式不一樣，溫度參數(shù)含義不同，又封裝一層適配器。

再然后要做A/B測試，要記錄每個(gè)請(qǐng)求的延遲和成本，要緩存常見查詢，要處理超長文本的分塊……

三個(gè)月后你回頭看，自己寫了一個(gè)微型的、殘缺的、沒人維護(hù)的DSPy。而隔壁團(tuán)隊(duì)用DSPy的，這三周在寫業(yè)務(wù)代碼。

為什么聰明人總在重復(fù)造輪子

這里有個(gè)反直覺的點(diǎn)：DSPy的「難」是前置的，而屎山的痛是后置的。

學(xué)DSPy要理解它的核心抽象——簽名（Signature）、模塊（Module）、優(yōu)化器（Optimizer）。這些詞聽起來像Java設(shè)計(jì)模式，讓人本能地抗拒。

但你自己造的那套東西，沒有名字，沒有文檔，只有你和離職同事腦子里模糊的約定。新人入職三周改崩了系統(tǒng)，你才發(fā)現(xiàn)「那個(gè)函數(shù)其實(shí)不能那樣用」從來沒人寫下來。

Khattab在文章里埋了個(gè)細(xì)節(jié)：他見過太多團(tuán)隊(duì)最終實(shí)現(xiàn)的東西，「本質(zhì)上就是DSPy，但少了優(yōu)化器」。少了優(yōu)化器意味著什么？你的提示詞是手調(diào)的，而對(duì)手是算法自動(dòng)搜出來的。就像冷兵器打熱兵器，勇氣可嘉。

JetBlue用它處理客服對(duì)話，Databricks集成進(jìn)數(shù)據(jù)管道。這些案例有個(gè)共同點(diǎn)：都是復(fù)雜系統(tǒng)，都要長期維護(hù)，都賭不起「提示詞改崩了凌晨三點(diǎn)叫醒工程師」。

下載量謊言：誰在沉默地使用

222億對(duì)470萬，這個(gè)對(duì)比本身就有誤導(dǎo)性。

LangChain的下載量里有多少是教程跟著敲的，有多少是生產(chǎn)環(huán)境真正跑起來的？沒人知道。但DSPy的用戶有個(gè)特征：他們不說話。

不是不想說，是沒什么可抱怨的。系統(tǒng)穩(wěn)定運(yùn)行的時(shí)候，技術(shù)負(fù)責(zé)人不會(huì)發(fā)推特。只有崩了才會(huì)。

Khattab提到一個(gè)觀察：很多團(tuán)隊(duì)是「偷偷用」的。表面技術(shù)棧寫的是Python + OpenAI，實(shí)際核心鏈路已經(jīng)切到DSPy。他們不宣傳，因?yàn)椴幌虢忉尅笧槭裁催x了個(gè)小眾框架」。

這種沉默造成了信息斷層。新手搜教程，滿屏都是LangChain和LlamaIndex，DSPy的文檔像藏寶圖。但老鳥們知道，某些GitHub倉庫的依賴?yán)锴那奶芍鴇spy-ai。

一個(gè)框架的流行度，到底是反映質(zhì)量，還是反映營銷預(yù)算和上手門檻？

如果明天你的提示詞系統(tǒng)需要支持10個(gè)模型、自動(dòng)優(yōu)化、熱更新、成本監(jiān)控，你是愿意現(xiàn)在花兩天學(xué)DSPy，還是三個(gè)月后發(fā)現(xiàn)自己寫了個(gè)bug版？