海底有一種生物，解決智能的方式與地球所有動(dòng)物都不同。章魚沒有中央指揮系統(tǒng)——五億個(gè)神經(jīng)元中，三分之二不在大腦，而是分布在八條半自主的觸手上。每條觸手能獨(dú)立決策、感知、反應(yīng)，無需向總部請示。更驚人的是，章魚實(shí)時(shí)編輯自己的RNA，根據(jù)水溫、獵物、威脅和經(jīng)驗(yàn)，重新配置神經(jīng)元觸發(fā)蛋白的表達(dá)方式。它不重啟，不重新訓(xùn)練，只調(diào)整已知知識的表達(dá)形式。

我們今天的AI系統(tǒng)，幾乎不具備這些特性。

這不是說AI真的需要核糖核酸。文章提出的是一個(gè)仿生架構(gòu)原則，基于生物智能實(shí)際運(yùn)作方式與當(dāng)前AI工程之間的差距。核心論點(diǎn)很直接：我們造出了很好的DNA，還沒造出RNA。

凍結(jié)模型的困境

大語言模型訓(xùn)練一次，耗時(shí)數(shù)周或數(shù)月，消耗兆瓦級電力，數(shù)十億參數(shù)經(jīng)梯度下降調(diào)整，直到能精準(zhǔn)預(yù)測序列中的下一個(gè)詞元。然后訓(xùn)練結(jié)束，權(quán)重凍結(jié)，模型部署。

從那一刻起，模型是靜態(tài)的。它能響應(yīng)新提示，卻無法真正適應(yīng)。知識受限于訓(xùn)練數(shù)據(jù)截止日期，性格由對齊微調(diào)固定，能力取決于預(yù)訓(xùn)練分布中涌現(xiàn)的結(jié)果。讓已部署的LLM學(xué)習(xí)新東西，就像讓一張照片動(dòng)起來。

我們創(chuàng)造的靜態(tài)系統(tǒng)能力極強(qiáng)，卻誤將其流暢性當(dāng)作適應(yīng)性。

常用的變通方案暴露了問題的深度。上下文窗口提供臨時(shí)、會(huì)話級的信息，但轉(zhuǎn)瞬即逝，清空后模型完全復(fù)原。檢索增強(qiáng)生成將外部知識注入提示，但模型并不真正學(xué)習(xí)，只是閱讀。微調(diào)能實(shí)現(xiàn)真正的適應(yīng)，但代價(jià)是時(shí)間、算力，以及持續(xù)存在的災(zāi)難性遺忘風(fēng)險(xiǎn)——適應(yīng)新信息時(shí)會(huì)以不可預(yù)測、不可控的方式覆蓋舊知識。

提示工程是我們最廣泛使用的適應(yīng)機(jī)制，也是最暴露局限的做法。圍繞措辭調(diào)整來誘導(dǎo)模型行為，這整個(gè)子學(xué)科的存在本身，就說明架構(gòu)中缺失了某種根本性的東西。

核心約束

凍結(jié)權(quán)重——部署后參數(shù)鎖定，無法修改。靜態(tài)知識——無法整合訓(xùn)練后信息。固定表達(dá)——所有輸入的處理方式相同。災(zāi)難性遺忘——微調(diào)時(shí)舊能力被破壞。上下文脆弱性——臨時(shí)信息無法持久。

這些不是工程局限，是架構(gòu)選擇。我們選擇了將智能表示為凍結(jié)的權(quán)重矩陣，現(xiàn)在正承受后果。