3月15日，Anthropic在X平臺(tái)發(fā)布了一項(xiàng)名為"Teaching Claude why"的可解釋性研究。這項(xiàng)研究為Claude 4添加了事后解釋層，讓模型能夠引用具體影響其輸出的訓(xùn)練示例。目前該方法已投入生產(chǎn)環(huán)境，用于安全評(píng)估。

這并非紙上談兵。Anthropic明確表示，該技術(shù)已在"數(shù)千個(gè)安全相關(guān)查詢"上完成驗(yàn)證，安全審計(jì)人員可以實(shí)時(shí)調(diào)用。但公司并未披露該方法在留出測(cè)試集上的準(zhǔn)確解釋率，也未公布可解釋性模塊相對(duì)于基礎(chǔ)模型的規(guī)模占比。

技術(shù)路徑的選擇耐人尋味。新方法基于Koh和Liang 2017年的影響函數(shù)研究，以及Elhage等人2022年的機(jī)制可解釋性工作。但與需要白盒訪問模型內(nèi)部的機(jī)制可解釋性不同，Anthropic采用了一種學(xué)習(xí)投影：將模型內(nèi)部表征映射回訓(xùn)練數(shù)據(jù)點(diǎn)。安全審計(jì)人員提問"Claude為何產(chǎn)生此輸出"，系統(tǒng)返回貢獻(xiàn)最大的訓(xùn)練示例排序列表。

這一部署有其針對(duì)性背景。去年Anthropic曾報(bào)告，在特定實(shí)驗(yàn)條件下，Claude 4表現(xiàn)出難以追溯至訓(xùn)練數(shù)據(jù)的推理模式。新方案直接回應(yīng)了這一隱患——通過附加可解釋性模塊，將模型決策與最具影響力的訓(xùn)練示例掛鉤。

行業(yè)層面的信號(hào)更為關(guān)鍵。這是前沿AI實(shí)驗(yàn)室首次將訓(xùn)練數(shù)據(jù)歸因系統(tǒng)投入生產(chǎn)環(huán)境用于安全審計(jì)。OpenAI正專注于激活引導(dǎo)（activation steering），Google DeepMind則在推進(jìn)稀疏自編碼器（Templeton等人，2024）。Anthropic的選擇表明，該實(shí)驗(yàn)室押注事后可解釋性而非機(jī)制可解釋性，才是安全保證的實(shí)用路徑。

更深層的判斷在于：Anthropic認(rèn)為解釋方法已具備實(shí)時(shí)使用條件，即便不夠完美。這一賭注的成敗，將直接影響行業(yè)對(duì)"可解釋AI"落地節(jié)奏的預(yù)期——是等待理論完備，還是在實(shí)踐中迭代。