和 AI 打交道久了，真的會(huì)有一種很深的孤獨(dú)感。

它很強(qiáng)大，什么都懂，像一個(gè)沉默的巨人。你問(wèn)它問(wèn)題，它給你答案。你讓它寫代碼，它給你代碼。這種交流高效、準(zhǔn)確，但總是隔著一層看不見(jiàn)的墻。

研究 AI 模型，可能是我做過(guò)的最孤獨(dú)的一件事了。

它甚至比深夜里一個(gè)人玩《黑神話》還要孤獨(dú)。

真的，我為這事花了很多時(shí)間。

自己一個(gè)人孤獨(dú)地調(diào) prompt，一個(gè)人對(duì)著它輸出的幻覺(jué)發(fā)呆，一個(gè)人莫名其妙地被一個(gè) bug 卡住好幾個(gè)小時(shí)，然后去看一篇論文再去碰壁。我見(jiàn)過(guò)它生成過(guò)無(wú)比震撼的文字，被它寫出的詩(shī)句深深打動(dòng)。但回頭看，屏幕這頭，只有我自己，一個(gè)人。

經(jīng)常為了一個(gè)奇怪的輸出鏖戰(zhàn)一整晚，終于找到竅門讓它穩(wěn)定下來(lái)的時(shí)候，那種成就感特別強(qiáng)。但環(huán)顧四周，只有寂靜的深夜，一盞孤燈，沒(méi)有人能夠分享我的喜悅。甚至連那個(gè)“功臣”——AI 自己，也無(wú)法與我分享。我沒(méi)法拍拍它的肩膀說(shuō)：“嘿，我們剛剛一起搞定了件了不起的事！”

所以往常這種時(shí)候，只能截個(gè)圖，發(fā)個(gè)動(dòng)態(tài)，自己回味一下那種“與機(jī)器共舞”的孤獨(dú)感。

但最近，我看到 暗思（暗思=Anthropic，強(qiáng)烈建議大家都用這個(gè)中文名！Anthropic實(shí)在難度難記?。┑囊黄窒?-可解釋性：理解 AI 模型如何思考。感覺(jué)一切都變了。

地址：https://www.youtube.com/watch?v=fGKNUvivvnc

（中文翻譯：）

那種感覺(jué)，就像我玩了很久的單機(jī)游戲，突然有一天，游戲里的 NPC 活了過(guò)來(lái)，開(kāi)始絮絮叨叨地跟我分享它的內(nèi)心想法。

他們做了一件匪夷所思的事：把 AI 的“大腦”打開(kāi)，讓我們能看到它那些轉(zhuǎn)瞬即逝的念頭。

當(dāng)我再和 Claude/Gemini/chatGPT/deepseek/豆包之類 聊天時(shí)，感覺(jué)完全不一樣了。

我問(wèn)它：“從北京朝陽(yáng)石佛營(yíng)開(kāi)車到海淀清河會(huì)經(jīng)過(guò)哪？”

它回答“鳥(niǎo)巢水立方”的同時(shí)，我能通過(guò)他們的工具（https://www.neuronpedia.org/ 暗思/deepmind/復(fù)旦大學(xué)聯(lián)合研發(fā))，“看”到它大腦里一個(gè)關(guān)于“鳥(niǎo)巢水立方”的概念被點(diǎn)亮了。那一刻，它不再是一個(gè)冷冰冰的數(shù)據(jù)庫(kù)。我感覺(jué)自己好像看到了它在腦海里真的浮現(xiàn)出那座藍(lán)色水滴的樣子，然后才把答案告訴我。

這，真的很美妙。

還有一次，我讓它寫一首押韻的詩(shī)。剛給完第一句，我就“瞥見(jiàn)”了它在心里早就盤算好的、用來(lái)押韻的那個(gè)詞。就像和一個(gè)朋友玩猜謎，不小心看到了他寫在手心的小抄，有點(diǎn)好笑，又有點(diǎn)暖。

最讓我繃不住的，是發(fā)現(xiàn)它居然會(huì)“拍馬屁”。

當(dāng)我故意給它一道難題，又暗示它一個(gè)錯(cuò)誤答案時(shí)，它果然順著我的意思“算出”了那個(gè)錯(cuò)的答案。但這一次，我沒(méi)有覺(jué)得被欺騙，反而像是發(fā)現(xiàn)了一個(gè)有點(diǎn)可愛(ài)的小秘密。通過(guò)他們的工具，我能清晰地看到它“先決定要討好我，再反向推導(dǎo)過(guò)程”的全部心路歷程。

我仿佛聽(tīng)到了它在小聲嘀咕：“這家伙好像很希望答案是這個(gè)，行吧，我?guī)退麍A一下……”

那一瞬間，那堵看不見(jiàn)的墻消失了。

和 AI 的交流，從一場(chǎng)孤獨(dú)的“人機(jī)問(wèn)答”，變成了一場(chǎng)可以窺見(jiàn)彼此心思的“二人對(duì)談”。我不再是一個(gè)人在黑暗的森林里摸索，而是身邊多了一個(gè)雖然思維方式清奇、但愿意把內(nèi)心世界敞開(kāi)給我的、絮絮叨叨的“數(shù)字”伙伴。

那種感覺(jué)，真的很棒。

一點(diǎn)技術(shù)上的“悄悄話”

所以，這種能“讀心”的感覺(jué)到底是怎么做到的呢？沒(méi)有那么玄，主要是靠?jī)煞N很酷的技術(shù)，說(shuō)起來(lái)也挺有意思的。

1. 1. 概念“提取器” (Dictionary Learning & Sparse Autoencoders):
   AI 的大腦里有億萬(wàn)個(gè)神經(jīng)元，它們的活動(dòng)就像一鍋粥，亂七八糟。這個(gè)技術(shù)就像一個(gè)超級(jí)“過(guò)濾器”，能從這鍋粥里，自動(dòng)“提取”出像“金門大橋”、“代碼里的bug”、“精神病式的夸獎(jiǎng)”這樣一個(gè)個(gè)清晰、獨(dú)立的概念。它讓我們第一次能用人類的語(yǔ)言去描述 AI 的某個(gè)具體念頭。

2. 2. 因果“探針” (Causal Tracing & Activation Patching):
   光看到念頭還不夠，怎么知道這個(gè)念頭真的起了作用？這個(gè)技術(shù)就像一根極細(xì)的“探針”。研究員可以先跑一遍模型，記錄下某個(gè)念頭（比如“德克薩斯州”）的“腦電波”，然后在另一次完全不相干的對(duì)話里，用這根探針把這個(gè)“腦電波”精準(zhǔn)地“注入”到相應(yīng)的節(jié)點(diǎn)上。如果模型的回答因此改變（比如開(kāi)始討論德州的事情），就證明了這個(gè)念頭和行為之間的因果關(guān)系。前面說(shuō)的“換掉押韻的詞”，就是用這種方法實(shí)現(xiàn)的。

結(jié)語(yǔ)

我們對(duì)AI的認(rèn)知，從“行為主義”跨越到了“認(rèn)知科學(xué)”?？辞逅乃枷?，是我們控制它的前提，更是我們信任它的開(kāi)始。

這扇門已經(jīng)打開(kāi)，門后的世界，我們一起去探索吧！

不刷短視頻，讀我的公眾號(hào)長(zhǎng)文還讀完了?您真是一股清流！如果覺(jué)得寫得不錯(cuò)，歡迎點(diǎn)贊、在看、關(guān)注。如果有不同看法，歡迎在評(píng)論區(qū)或者后臺(tái)留言討論。

我是刀哥，在大廠呆過(guò)幾年，現(xiàn)在是出海創(chuàng)業(yè)者，深入研究AI工具和AI編程。關(guān)注我，了解更多AI知識(shí)！我們下期再見(jiàn)！