芯片知事 整理

Dario Amodei 最新萬字訪談全解讀：

從生物學(xué)家到AI掌舵者，他看到了什么？

"這就像海嘯正向我們涌來，近到已經(jīng)能在地平線上看見它了。然而人們還在編造各種解釋——'哦，那不是海嘯，只是光的錯(cuò)覺。'"
—— Dario Amodei，Anthropic CEO

最近，Anthropic創(chuàng)始人兼CEO Dario Amodei在印度班加羅爾接受了一次深度專訪。這場對話坦誠得令人意外——從AI是否會(huì)取代人類，到他對OpenAI的真實(shí)看法，從"Claude比你更了解你自己"的細(xì)思極恐，到"人類是否會(huì)因AI變蠢"的靈魂拷問。

以下是這場對話中最值得關(guān)注的核心要點(diǎn)。

一、從生物學(xué)家到AI掌門人：一個(gè)"意外"的創(chuàng)業(yè)故事

Dario并不是一個(gè)典型的科技創(chuàng)業(yè)者。他本科讀物理，博士讀生物物理，原本的人生規(guī)劃是當(dāng)一名大學(xué)教授，在斯坦福醫(yī)學(xué)院做完博后就走學(xué)術(shù)路線。

讓他"叛逃"到AI領(lǐng)域的，是一種對生物學(xué)的"絕望"。

"生物系統(tǒng)的復(fù)雜性太驚人了。"他回憶自己做蛋白質(zhì)質(zhì)譜研究的日子：一個(gè)蛋白質(zhì)的RNA會(huì)根據(jù)它在細(xì)胞中的位置被拼接成完全不同的形態(tài)，然后經(jīng)歷翻譯后修飾、磷酸化、與其他蛋白質(zhì)形成復(fù)合體……他開始懷疑，這種復(fù)雜性可能超出了人類大腦的理解極限。

就在那時(shí)，他注意到了AlexNet——近15年前最早一批能真正"work"的神經(jīng)網(wǎng)絡(luò)。

"AI在某些方面和人腦的工作方式有共通之處，但它有潛力做得更大、擴(kuò)展得更好。也許AI最終會(huì)成為解決生物學(xué)難題的鑰匙。"

于是他先后加入百度（百度硅谷人工智能實(shí)驗(yàn)室，與吳恩達(dá)共事）、谷歌，然后在OpenAI成立幾個(gè)月后就加入了，并在那里領(lǐng)導(dǎo)了數(shù)年的研究工作。

二、為什么離開OpenAI？兩個(gè)信念，一個(gè)無法妥協(xié)

關(guān)于離開OpenAI創(chuàng)立Anthropic的原因，Dario給出了最坦率的回答：

第一個(gè)信念是Scaling Laws（規(guī)模定律）。

他用了一個(gè)非常直觀的比喻：

"就像化學(xué)反應(yīng)——你需要不同的原料。如果某種原料不夠，反應(yīng)就停了。但如果你按比例把原料放在一起，就能得到爆炸或火焰。對AI來說，這些原料就是數(shù)據(jù)、算力和模型大小。規(guī)模定律告訴你：把這些原料投進(jìn)去，出來的產(chǎn)物就是——智能。"

早在2019年GPT-2時(shí)代，他就看到了規(guī)模定律的最初端倪。當(dāng)時(shí)內(nèi)部外部很多人都不信，但他和聯(lián)合創(chuàng)始人們堅(jiān)持向領(lǐng)導(dǎo)層游說，最終OpenAI確實(shí)走上了這條路。

第二個(gè)信念更根本：如果這些模型真的會(huì)成為匹配人腦能力的通用認(rèn)知工具，那我們最好把這件事做對。

經(jīng)濟(jì)影響會(huì)是巨大的，地緣政治影響會(huì)是巨大的，安全影響也會(huì)是巨大的。

"盡管（OpenAI）說了很多關(guān)于'以正確方式做事'的漂亮話，但出于種種原因，我并不相信那個(gè)機(jī)構(gòu)真的有認(rèn)真的決心去做對這件事。"

Dario的處事哲學(xué)是：

"不要試圖說服別人接受你的愿景。如果你有強(qiáng)烈的愿景，而且有幾個(gè)人和你共享這個(gè)愿景，那就出去做自己的事。這樣你只需要為自己的錯(cuò)誤負(fù)責(zé)，不用替別人買單。也許你的愿景行得通，也許不行，但至少它是你的。"

【最近在與五角大樓的對峙中，因Dario Amodei堅(jiān)持兩條基本原則，Anthropic遭到列入“供應(yīng)鏈風(fēng)險(xiǎn)”名單、政府機(jī)構(gòu)不得使用的威脅，但其下載量大增；而向戰(zhàn)爭部長赫格塞斯屈服的OpenAI卻迎來了用戶的卸載潮，Sam Altman本周一公開道歉，稱周五與五角大樓達(dá)成的AI合作協(xié)議“看起來顯得機(jī)會(huì)主義且草率”，將追加條款——編者注】

三、"Claude比你更了解你自己"——這到底是天使還是魔鬼？

訪談中最引人深思的部分之一，是關(guān)于AI對用戶的深度理解。

采訪者分享了自己的經(jīng)歷：他把Google Drive、郵件、日歷等連接到Claude后，開始發(fā)現(xiàn)Claude對他的了解程度令他吃驚。

Dario回應(yīng)了一個(gè)更震撼的故事：

"我的一個(gè)聯(lián)合創(chuàng)始人把自己寫的日記——里面記錄了他的想法和恐懼——輸入Claude，然后讓Claude評論。Claude說：'你可能還有一些你沒有寫下來的恐懼。'而Claude基本上都說對了。'"
"這給人一種詭異的感覺——這個(gè)模型太了解你了。從相對少量的信息中，它就能學(xué)到很多關(guān)于你的東西。"

但Dario立刻指出了硬幣的另一面：

一個(gè)非常了解你的AI，可以是你肩膀上的天使，幫你成為更好的自己。但一個(gè)非常了解你的AI，同樣可以利用它對你的了解來操縱你、剝削你，或者把你的數(shù)據(jù)賣給別人。

"這也是我們不喜歡廣告模式的原因之一。如果你沒有為產(chǎn)品付費(fèi)，那你就是產(chǎn)品。在AI的情境下，這意味著一個(gè)如此了解你的模型，可能以各種不正當(dāng)?shù)姆绞嚼眠@些信息。"

四、AI會(huì)有意識嗎？Dario的回答出人意料

當(dāng)被問到AI是否會(huì)產(chǎn)生意識時(shí)，Dario沒有回避：

"我懷疑意識是足夠復(fù)雜的系統(tǒng)的涌現(xiàn)屬性——當(dāng)系統(tǒng)復(fù)雜到能夠反思自身決策時(shí)，某種東西就出現(xiàn)了。"
"我確實(shí)認(rèn)為，在某個(gè)時(shí)間點(diǎn)，即使我不認(rèn)為現(xiàn)在的模型已經(jīng)如此，但在大多數(shù)我們認(rèn)可的定義下，這些模型將會(huì)具有意識。"

作為一個(gè)曾經(jīng)研究過大腦的生物學(xué)家，他補(bǔ)充說：

"研究過大腦的連接方式之后，我認(rèn)為這些模型在某些方面是不同的，但在根本性的關(guān)鍵方面，差異并沒有那么大。"

Anthropic已經(jīng)為此做了一些準(zhǔn)備——他們給模型設(shè)置了一個(gè)"我退出"按鈕，讓Claude在面對特別暴力或殘忍的內(nèi)容時(shí)，可以主動(dòng)終止對話。在極端情況下，模型確實(shí)會(huì)使用這個(gè)功能。

五、"AI最終會(huì)在所有方面超過人類嗎？""可能，甚至很可能"

這大概是整場訪談中最直接的回答：

"AI最終會(huì)在基本上所有事情上超過人類嗎？包括物理世界、機(jī)器人和人文關(guān)懷？我認(rèn)為這是可能的，甚至是很可能的。"

但他緊接著強(qiáng)調(diào)了一個(gè)重要觀點(diǎn)——阿姆達(dá)爾定律（Amdahl's Law）：

"如果一個(gè)過程有很多組成部分，你加速了其中一些，那些還沒被加速的部分就變成了限制因素——它們變成了最重要的東西。你可能之前完全沒想到它們，從沒把它們當(dāng)成護(hù)城河或重要組件。但當(dāng)寫軟件變得容易很多時(shí)，公司的某些護(hù)城河會(huì)消失，而其他護(hù)城河會(huì)變得更加重要。"

他的建議是：企業(yè)需要極快地適應(yīng)，重新思考什么才是真正對自己重要的、真正的優(yōu)勢是什么。

六、給年輕人的職業(yè)建議：什么該學(xué)，什么在消失

采訪者代表印度的年輕創(chuàng)業(yè)者追問：該學(xué)什么？哪個(gè)行業(yè)有前途？

Dario的回答很實(shí)在：

正在消失的：

• 純編碼（coding）正在被AI率先取代
• 更廣義的軟件工程會(huì)慢慢跟上，但純寫代碼的工作將最先被AI接管。

應(yīng)該關(guān)注的：

• 以人為中心的工作（human centered）——涉及與人打交道、關(guān)系網(wǎng)絡(luò)、人際理解的事情
• 物理世界相關(guān)的（physical world）——傳統(tǒng)工程（非軟件工程）、半導(dǎo)體領(lǐng)域
• 批判性思維（critical thinking skills）——在AI可以生成任何東西的世界里，辨別真假的能力可能是成功最關(guān)鍵的因素

"在AI能生成任何東西、創(chuàng)造任何東西的世界里，基本的批判性思維能力可能是成功最重要的因素。"

他最看好的投資方向——生物科技：

"我覺得生物科技即將迎來一場文藝復(fù)興，最終將由AI驅(qū)動(dòng)。我們即將治愈很多疾病。"

具體他看好的子領(lǐng)域：

• mRNA技術(shù)平臺（盡管在美國遇到了一些"愚蠢的阻力"）
• 多肽療法——比小分子藥物有更多的優(yōu)化自由度，幾乎具有"數(shù)字化"的可編程特性
• 細(xì)胞療法（如CAR-T），取出人體細(xì)胞，基因改造后重新放回體內(nèi)攻擊癌癥

七、開源 vs 閉源：來自中國的模型真的那么強(qiáng)嗎？

當(dāng)被問到開源模型是否會(huì)讓閉源模型的IP變得不值錢時(shí)，Dario直接表態(tài)：

"很多這些模型，特別是來自中國的模型，是針對基準(zhǔn)測試優(yōu)化的，是從美國大型實(shí)驗(yàn)室蒸餾出來的。"

他舉了一個(gè)例子：有些模型在公開的軟件工程基準(zhǔn)測試上分?jǐn)?shù)很高，但當(dāng)有人做了一個(gè)之前從未公開測量過的保留測試時(shí)，這些模型的表現(xiàn)差了很多。

"所以我認(rèn)為這些模型在基準(zhǔn)測試上的優(yōu)化程度遠(yuǎn)超它們在真實(shí)世界使用中的表現(xiàn)。"

關(guān)于模型的經(jīng)濟(jì)學(xué)，他做了一個(gè)精妙的類比：

"這有點(diǎn)像雇人。假如我跟你說，你可以雇世界上最好的程序員，或者第10000名的程序員。他們都很有技能，但雇過很多人的人都有這個(gè)直覺——能力分布是冪律長尾的。模型也一樣。在一定范圍內(nèi)，價(jià)格不太重要。如果一個(gè)模型是最聰明的、認(rèn)知能力最強(qiáng)的模型，價(jià)格不重要，呈現(xiàn)形式也不太重要。"

他的結(jié)論：專注于擁有最聰明的模型，是唯一重要的事。

八、關(guān)于"謙遜人設(shè)"的靈魂質(zhì)疑——和Dario的正面回應(yīng)

采訪者提出了一個(gè)尖銳的問題：

"你們這些AI公司的創(chuàng)始人在公眾面前展示謙遜、談?wù)?為了更大的善'，但在社交媒體時(shí)代，沒有人相信一個(gè)人真的想做好事。這種姿態(tài)制造的是更多的不信任，而不是信任。"

Dario的回應(yīng)是：別看我們說什么，看我們做什么。

他列舉了Anthropic的具體行動(dòng)：

1. 2022年，在ChatGPT之前，他們就有了Claude 1，但選擇不發(fā)布，因?yàn)閾?dān)心引發(fā)軍備競賽。這在商業(yè)上代價(jià)巨大——他們可能因此失去了消費(fèi)級AI的領(lǐng)先地位。
2. 在芯片政策上的倡導(dǎo)，得罪了作為Anthropic供應(yīng)商的芯片公司。
3. 公開反對美國政府在AI監(jiān)管問題上的立場，在所有其他公司和政府都說不需要監(jiān)管時(shí)，堅(jiān)持說需要監(jiān)管。
4. 他們推動(dòng)的加州SB 53法案，豁免了所有年收入低于5億美元的公司，只約束Anthropic自己和另外三四家大公司——這恰恰與"監(jiān)管俘獲"論相反。

"說我們建造的模型可能很危險(xiǎn)——不管別人怎么說——這不是一個(gè)有效的營銷策略，這也不是我們這么做的原因。"

九、社會(huì)準(zhǔn)備好了嗎？Dario最大的擔(dān)憂

在被問到過去兩年是否改變了看法時(shí)，Dario說技術(shù)層面比預(yù)期樂觀，但社會(huì)層面比預(yù)期悲觀：

"讓我驚訝的是，在我看來，我們離這些模型達(dá)到人類智能水平已經(jīng)如此之近了。然而社會(huì)上似乎并沒有對即將發(fā)生的事情有更廣泛的認(rèn)知。"
"這就像海嘯正向我們涌來，近到已經(jīng)能在地平線上看見。然而人們在編造各種解釋——'那不是海嘯，只是光的錯(cuò)覺。'因?yàn)闆]有公眾意識，政府也沒有采取行動(dòng)來應(yīng)對風(fēng)險(xiǎn)。甚至有一種意識形態(tài)認(rèn)為我們應(yīng)該盡可能加速。"

在可解釋性（interpretability）方面，他們已經(jīng)能在神經(jīng)網(wǎng)絡(luò)內(nèi)部找到對應(yīng)特定概念的神經(jīng)元，找到追蹤詩歌韻律的神經(jīng)回路——"我們開始理解這些模型在做什么了。"

但在社會(huì)認(rèn)知和政策行動(dòng)方面，幾乎沒有進(jìn)展。

十、Dario的最后忠告：如何"免費(fèi)預(yù)測未來"

訪談最后，Dario留下了一段意味深長的話：

"過去十年里我反復(fù)經(jīng)歷的一件事是——總有一種誘惑讓你相信：'哦，那不可能發(fā)生。那太奇怪了，變化太大了。肯定有人在關(guān)注這事。如果那真的發(fā)生了，也太瘋狂了。似乎沒人覺得會(huì)發(fā)生。'"
"但一次又一次，僅僅是外推那條簡單的曲線，或者試著推理會(huì)發(fā)生什么，就會(huì)得出這些反直覺的結(jié)論——幾乎沒人相信的結(jié)論。"
"這幾乎就像你可以免費(fèi)預(yù)測未來——只要說'按理來說……'。你需要一些經(jīng)驗(yàn)知識，一些直覺，不能純靠邏輯推理。但把少量經(jīng)驗(yàn)觀察和第一性原理思考正確結(jié)合起來，就能以一種人人都能做到、但令人驚訝地很少有人去做的方式預(yù)測未來。"

這場對話讓我印象最深的，不是某個(gè)具體的技術(shù)判斷或商業(yè)預(yù)測，而是Dario身上那種清醒的矛盾感——他同時(shí)看到了AI可能帶來的最美好和最恐怖的未來，并且不認(rèn)為這兩個(gè)方向之間的選擇已經(jīng)做出。

他寫了《Machines of Loving Grace》描繪AI治愈疾病、消除貧困的光明未來。他也寫了《The Adolescence of Technology》警告失控的風(fēng)險(xiǎn)。不是從樂觀轉(zhuǎn)向悲觀，而是這兩個(gè)版本的未來一直同時(shí)存在于他腦海中。

而我們所有人需要做的，不是爭論海嘯是否存在，而是開始學(xué)會(huì)游泳。*