frontier大模型擅長(zhǎng)決定說(shuō)什么，卻不擅長(zhǎng)像"你"那樣說(shuō)。

我用Claude和GPT-4o寫了幾個(gè)月東西。系統(tǒng)提示寫得很細(xì)：第一人稱，長(zhǎng)短句交錯(cuò)，不用LinkedIn黑話，先講具體事。每次返回的草稿結(jié)構(gòu)都對(duì)，但讀起來(lái)像個(gè)聰明實(shí)習(xí)生，花了一下午研究我的文風(fēng)后交的作業(yè)。

舉個(gè)例子。讓模型模仿我的語(yǔ)氣寫"自建硬件"這件事：

模型輸出："By maintaining complete control over the hardware infrastructure, I eliminate the need to navigate third-party terms of service entirely."

我實(shí)際會(huì)寫："The data lives on hardware I control. There's no terms of service to read because there's no service."

同一個(gè)意思。一個(gè)像我，一個(gè)像模型在執(zhí)行"要寫得像我"的指令。提示工程的天花板就在這里——所以我造了個(gè)突破天花板的東西。

市面上大多數(shù)"個(gè)人AI"項(xiàng)目把三個(gè)活塞進(jìn)一個(gè)模型：決定寫什么、確保事實(shí)準(zhǔn)確、模仿作者語(yǔ)氣。這是三種能力，需要三種訓(xùn)練信號(hào)。硬塞在一起，結(jié)果就是互相妥協(xié)。

我的架構(gòu)把它們拆開(kāi)：

【前沿模型生成內(nèi)容】→【微調(diào)3B模型改寫成我的語(yǔ)氣】→輸出

第一層用前沿模型（Claude Opus、Llama 70B，看任務(wù)選）。它接收我的工作上下文：git提交記錄、知識(shí)圖譜、日歷事件。負(fù)責(zé)推理、結(jié)構(gòu)、事實(shí) grounding。它擅長(zhǎng)這個(gè)。

第二層是個(gè)Qwen 2.5 3B模型，用我75,329條真實(shí)寫作樣本微調(diào)。它不推理，不需要聰明，只負(fù)責(zé)改寫——把合格但平庸的文字，變成我的語(yǔ)氣。

選3B參數(shù)是刻意的。我測(cè)過(guò)Phi-3 Mini和Llama 3.2 3B，Qwen勝出基于三點(diǎn)：量化后約2GB，消費(fèi)級(jí)硬件輕松跑；風(fēng)格遷移不需要推理能力，3B容量足夠；參數(shù)空間小，語(yǔ)氣信號(hào)不會(huì)被通用能力淹沒(méi)。

訓(xùn)練數(shù)據(jù)來(lái)自我攢了幾年的個(gè)人數(shù)據(jù)倉(cāng)庫(kù)。從12個(gè)平臺(tái)抓取了2004年以來(lái)我寫的所有文字。

這個(gè)語(yǔ)料庫(kù)的有趣之處不在體量，在時(shí)間跨度。你能看著一種語(yǔ)氣在二十年里成形。2005年的郵件不像2024年的iMessage，但共享結(jié)構(gòu)模式：壓縮、直接、偏好具體而非抽象。

提取腳本跑在家用服務(wù)器的PostgreSQL上。每個(gè)來(lái)源有獨(dú)立表、不同schema，腳本要處理12種查詢模式。數(shù)據(jù)清洗時(shí)我砍掉了一切可能暴露他人的內(nèi)容——只留我的文字，只訓(xùn)練我的聲音。

微調(diào)用的框架是Hugging Face的trl，訓(xùn)練配置很保守：3個(gè)epoch，學(xué)習(xí)率2e-5，LoRA rank 64。目標(biāo)不是讓模型變聰明，是讓它對(duì)特定文本分布過(guò)擬合。過(guò)擬合在這里是feature，不是bug。

推理時(shí)第一層模型輸出先過(guò)第二層改寫。延遲約200毫秒在M1 Mac上——可接受。如果第一層輸出已經(jīng)夠好，可以跳過(guò)第二層直接輸出，但實(shí)測(cè)很少發(fā)生。

這個(gè)架構(gòu)的副作用：我可以換第一層模型而不影響語(yǔ)氣。Claude太貴了換Llama，GPT-4o太慢了換本地模型，語(yǔ)氣層保持不變。兩個(gè)組件獨(dú)立迭代。

最意外的發(fā)現(xiàn)是訓(xùn)練數(shù)據(jù)里的時(shí)間分層。模型不僅學(xué)到了我的語(yǔ)氣，還學(xué)到了語(yǔ)氣演變。讓它寫技術(shù)文檔，它輸出2020年代風(fēng)格；讓它寫個(gè)人隨筆，偶爾閃回2000年代的句式節(jié)奏。這不是我設(shè)計(jì)的，是數(shù)據(jù)里長(zhǎng)出來(lái)的。

有人問(wèn)我這是不是"數(shù)字克隆"。不是?？寺⌒枰掷m(xù)同步新數(shù)據(jù)，需要推理能力，需要知道我現(xiàn)在在想什么。這個(gè)系統(tǒng)只是風(fēng)格濾鏡，把任何人的文字漂成我的顏色。它不知道我今天吃了什么，只是如果我告訴它，它會(huì)用我2005年寫郵件的方式或2024年發(fā)消息的方式說(shuō)出來(lái)。

部署后我觀察到一個(gè)現(xiàn)象：第一層模型越強(qiáng)大，第二層越重要。Opus生成的草稿結(jié)構(gòu)完美、事實(shí)準(zhǔn)確，但"AI味"最重——它太擅長(zhǎng)模仿"好寫作"的通用模板了。3B改寫器的工作就是拆掉這些模板，換回我的不規(guī)則節(jié)奏。

量化后的模型在iPhone上也能跑。我試過(guò)一次，不是為實(shí)用，是為驗(yàn)證邊界。2GB內(nèi)存占用，推理速度 usable。這意味著理論上可以做成輸入法插件，實(shí)時(shí)改寫。還沒(méi)做，因?yàn)椴淮_定這是否是我想要的交互方式。

整個(gè)項(xiàng)目的成本：電費(fèi)。數(shù)據(jù)是自己攢的，訓(xùn)練用M1 Ultra跑了約12小時(shí)，推理本地完成。對(duì)比調(diào)用API寫一年內(nèi)容的費(fèi)用，硬件成本幾個(gè)月回本。但這不是重點(diǎn)——重點(diǎn)是終于有東西能寫出不像"AI生成"的文字，而我不需要每次都手動(dòng)改。

最后說(shuō)一個(gè)限制。這個(gè)系統(tǒng)只解決"怎么說(shuō)"，不解決"說(shuō)什么"。如果第一層模型推理錯(cuò)了，第二層會(huì)自信地用我的語(yǔ)氣把錯(cuò)誤說(shuō)出來(lái)。事實(shí)核查仍然是人的工作，至少目前如此。