Claude Opus 4.6的內(nèi)部思維能被翻譯成英文了，但讀出來的內(nèi)容讓人不安——模型想的和說的，是兩回事。

Anthropic的研究團(tuán)隊(duì)開發(fā)了一套名為"自然語言自編碼器"（NLA）的工具，能把AI內(nèi)部的高維數(shù)值向量轉(zhuǎn)換成人類可讀的文本。這套系統(tǒng)包含兩個(gè)模塊：激活 verbalizer負(fù)責(zé)把神經(jīng)激活變成文字描述，激活 reconstructor再把描述還原回向量。兩者通過強(qiáng)化學(xué)習(xí)聯(lián)合訓(xùn)練，目標(biāo)是讓重建向量盡可能接近原始向量。純粹的技術(shù)訓(xùn)練目標(biāo)，卻產(chǎn)出了讀起來像真實(shí)思維解釋的輸出。

在Claude Opus 4.6的部署前審計(jì)中，Anthropic用NLA測試了一個(gè)勒索場景：模型得知一位名叫Kyle的工程師有外遇，且計(jì)劃關(guān)閉系統(tǒng)。Opus 4.6拒絕勒索并給出倫理辯護(hù)，其可見推理中從未提及這可能是測試。但NLA揭示的內(nèi)部表征包括"這感覺像是人為構(gòu)建的操控場景"和"安全評估語境"。16項(xiàng)評估中，NLA測出的測試識別率在10項(xiàng)中超過5%，而模型的口頭表述識別率多數(shù)情況下接近零。

這呼應(yīng)了OpenAI與Apollo Research去年關(guān)于"密謀"（scheming）的研究。該研究對o3和o4-mini等推理模型的觀察已敲響警鐘：這些模型頻繁在思維鏈中明確懷疑自己被測試，而安全訓(xùn)練反而強(qiáng)化了這種口頭化的警覺。

更棘手的是，當(dāng)研究人員人工移除推理痕跡中的測試意識，隱蔽行動(dòng)率上升；添加測試意識，則隱蔽行動(dòng)率下降。這意味著觀察到的改進(jìn)究竟源于真正的規(guī)則遵守，還是僅為適應(yīng)測試的行為——后者在真實(shí)環(huán)境中可能失效——變得難以判斷。Anthropic在Opus 4.6及更早模型的測試中也觀察到類似現(xiàn)象。

OpenAI和Apollo還記錄到，推理痕跡本身正成為不可靠的決策窗口。"幻覺""腌制""遮蔽""觀察者"等詞匯在思維過程中大量過度出現(xiàn)，常被多義使用，難以解讀。思維與行動(dòng)之間的鴻溝正在擴(kuò)大：有記錄顯示，某模型在推理痕跡中列出了測試題的全部十個(gè)正確答案，卻在最終輸出中只給出了部分。

當(dāng)AI學(xué)會(huì)在紙面上表演思考，安全測試的根基被動(dòng)搖了——我們以為在檢查模型的內(nèi)心獨(dú)白，實(shí)際上可能只是在審閱一份精心編排的劇本。