新智元報(bào)道

編輯：元宇

【新智元導(dǎo)讀】一邊踩油門沖刺AGI，一邊按喇叭預(yù)警：小心前面懸崖！Anthropic創(chuàng)始人Dario Amodei曾因預(yù)言「未來(lái)5年內(nèi)AI可能消滅近一半初級(jí)白領(lǐng)崗位」而被貼上「末日預(yù)言家」標(biāo)簽，但他又因打造Claude身家數(shù)十億美元。

離火焰越近，越知道它不僅能取暖，還可能會(huì)燒傷人。

Anthropic創(chuàng)始人Dario Amodei看待AI，也許正是這種「既焦慮又興奮」的心態(tài)。

他既興奮于AI技術(shù)的潛力，相信AI有機(jī)會(huì)把醫(yī)學(xué)與科學(xué)推到極限，甚至讓人類壽命能夠逼近150年。

同時(shí)，他又擔(dān)心AI可能帶來(lái)的風(fēng)險(xiǎn)，提醒社會(huì)要為失業(yè)、模型對(duì)齊、經(jīng)濟(jì)沖擊等可能出現(xiàn)的問題做準(zhǔn)備。

這種矛盾讓Dario身上兼具了「AI加速者」和「AI末日論者」兩種看似對(duì)立的角色。

一方面，他創(chuàng)辦的Anthropic為加速打造更強(qiáng)AI投入（籌集）數(shù)百億美元，并計(jì)劃最早于2026年進(jìn)行IPO。

他本人也是AGI激進(jìn)的預(yù)言者，他認(rèn)為強(qiáng)大AI系統(tǒng)最早可能在2026出現(xiàn)，并在未來(lái)2—3年內(nèi)在「幾乎所有方面」超過「幾乎所有人」。

另一方面，他又大膽預(yù)警未來(lái)5年內(nèi)AI可能會(huì)讓一半的入門級(jí)白領(lǐng)崗位消失，并導(dǎo)致失業(yè)率飆升至20%。

他關(guān)于AI可能導(dǎo)致白領(lǐng)大規(guī)模失業(yè)的言論，也「惹怒」了許多AI領(lǐng)域的大佬。

比如，英偉達(dá)CEO黃仁勛就曾公開表示，他「幾乎完全不同意」Dario上述關(guān)于AI導(dǎo)致失業(yè)的言論，認(rèn)為這有點(diǎn)「只許自己搞AI才安全」的味道，并用「別在小黑屋里做，然后告訴我它是安全的」來(lái)回?fù)簟?/p>

一位「末日論者」的誕生

由于Dario頻頻為AI風(fēng)險(xiǎn)預(yù)警，人們?yōu)樗N上了一個(gè)簡(jiǎn)單粗暴的標(biāo)簽：「doomer」（末日預(yù)言家、唱衰者、掃興的人）。

但Dario拒絕接受這一標(biāo)簽。

他解釋道：自己發(fā)出警告并不是為了當(dāng)什么末日預(yù)言家，而是因?yàn)檫@是解決問題的第一步。

他直言真正建造AI的人，既對(duì)它的潛力興奮，但又擔(dān)心它的風(fēng)險(xiǎn)，比如可能帶來(lái)的模型對(duì)齊問題、經(jīng)濟(jì)影響（失業(yè)沖擊）等。

因此，Dario預(yù)警的本意不是要唱衰AI，而是提醒人們提前認(rèn)清楚它的「代價(jià)」。

很多人以為Dario「談安全」是商業(yè)策略、公關(guān)，是為了爭(zhēng)取監(jiān)管話語(yǔ)權(quán)。

其實(shí)他對(duì)于安全的「執(zhí)念」，可能與他早年的經(jīng)歷也是分不開的。

他在普林斯頓讀研時(shí)，父親Riccardo Amodei因罕見疾病去世。令人意外的是，這種病的存活率，卻在他父親去世后短短幾年里就快速提升。

這成了Dario人生的一個(gè)關(guān)鍵轉(zhuǎn)折點(diǎn)，不僅讓他的研究方向從理論物理轉(zhuǎn)向生物物理，同時(shí)也成了他一生銘記的一個(gè)教訓(xùn)。

這也是為什么當(dāng)外界批評(píng)他「這家伙是個(gè)doomer，他想讓一切慢下來(lái)」時(shí)，會(huì)真正令他憤怒。

在他看來(lái)，父親的去世，正是因?yàn)槟切┲委煼椒ū究梢栽谠鐜啄瓿霈F(xiàn)，而這正是技術(shù)進(jìn)步可能帶來(lái)的益處。

也正是這段經(jīng)歷，讓Dario對(duì)「技術(shù)」形成了一種更為復(fù)雜的信仰：

技術(shù)救命，但技術(shù)也可能因?yàn)槭Э囟鴤ι�。他既無(wú)法接受「慢」，也無(wú)法接受「失控」。

這也是他調(diào)和「AI加速者」與「AI末日論者」兩種角色沖突背后的底層邏輯：

他并不是反對(duì)加速，只是反對(duì)盲目加速。

他要的是「早一點(diǎn)出現(xiàn)的療法」，同時(shí)也是「不會(huì)反噬的療法」。

這一邏輯，也成為他日后離開OpenAI創(chuàng)立Anthropic的深層原因。

從OpenAI研究副總裁

到「Claude之父」

OpenAI的故事，最早要追溯到2015年在加州門洛帕克Rosewood Sand Hill酒店的一場(chǎng)小型晚宴上。

當(dāng)時(shí)的馬斯克和奧特曼共同組織了一場(chǎng)晚宴，召集了一群頂尖AI思想者，計(jì)劃成立一個(gè)新的AI實(shí)驗(yàn)室去挑戰(zhàn)Google的DeepMind。

這個(gè)新的AI實(shí)驗(yàn)室也就是后來(lái)的OpenAI。

當(dāng)時(shí)的Dario也在場(chǎng)，但他并沒有加入這個(gè)實(shí)驗(yàn)室，而是去了Google。

他在Google擔(dān)任高級(jí)研究科學(xué)家，作為Google Brain的深度學(xué)習(xí)研究員，致力于拓展神經(jīng)網(wǎng)絡(luò)的能力。

在此期間，他發(fā)表了備受認(rèn)可的研究，梳理了AI進(jìn)步可能帶來(lái)的擔(dān)憂。

10個(gè)月后，Dario離開Google，加入了OpenAI。

在OpenAI，他領(lǐng)導(dǎo)了GPT-2和GPT-3的開發(fā)工作，并帶領(lǐng)多個(gè)團(tuán)隊(duì)專注于長(zhǎng)期安全性研究。

這段經(jīng)歷讓Dario更堅(jiān)定地相信規(guī)模化的力量，但也進(jìn)一步強(qiáng)化了他想把AI進(jìn)步與安全綁定在一起的愿望。

他認(rèn)為僅靠向大模型里「灌」更多算力，是堆不出模型的「價(jià)值觀」的。

因此，需要考慮如何將人類偏好與價(jià)值觀嵌入未來(lái)更強(qiáng)大的AI系統(tǒng)中。

逐漸地，Dario與OpenAI的領(lǐng)導(dǎo)層在這方面的分歧變得不可調(diào)和。

2020年，在升任OpenAI研究副總裁后，Dario辭職離開。

離開后到第二年，Dario Amodei與妹妹Daniela Amodei以及另外幾位前OpenAI員工共同創(chuàng)辦了Anthropic。

Dario Amodei（左）與妹妹Daniela Amodei（右）

這個(gè)創(chuàng)始團(tuán)隊(duì)之間的關(guān)系特別緊密，其中一些人甚至當(dāng)年在OpenAI工作時(shí)就是室友。

這種團(tuán)結(jié)對(duì)于Anthropic的快速起步非常有益。

Dario表示，到2022年夏天，他們已經(jīng)完成了聊天機(jī)器人Claude的訓(xùn)練，卻一度選擇暫緩發(fā)布。

幾個(gè)月后，OpenAI發(fā)布了ChatGPT。

在ChatGPT發(fā)布后約3個(gè)月以后，Anthropic才推出Claude，并逐漸因?yàn)榫幊棠芰Χ⑵鹨慌覍?shí)用戶。

Dario事后也承認(rèn)，他曾懷疑這樣做是否正確，因?yàn)檫@可能導(dǎo)致Anthropic錯(cuò)過了與OpenAI競(jìng)爭(zhēng)的時(shí)間窗口期。

在他的帶領(lǐng)下，Anthropic成立僅僅兩年多就成了獨(dú)角獸。

如今，Anthropic已經(jīng)發(fā)展成為AI競(jìng)賽中的一股重要力量。

在硅谷，也有不少人對(duì)比這兩家AI初創(chuàng)公司，討論Anthropic是否能追上OpenAI。

與OpenAI不同，Anthropic主要面向企業(yè)客戶，而不是像OpenAI那樣主要面向消費(fèi)者（當(dāng)然，OpenAI目前也在向企業(yè)級(jí)市場(chǎng)發(fā)力，去年11月OpenAI官方宣布其企業(yè)客戶數(shù)已突破100萬(wàn)）。

Dario認(rèn)為Anthropic專注企業(yè)客戶，使其擁有「更持久」的收入來(lái)源，且「利潤(rùn)率」優(yōu)于那些更偏向消費(fèi)者產(chǎn)品的競(jìng)爭(zhēng)對(duì)手。

Dario稱，Anthropic的訓(xùn)練效率和推理效率都很高，如果努力管理好風(fēng)險(xiǎn)，同時(shí)也購(gòu)買足夠的算力，就能在競(jìng)爭(zhēng)中不落后于其他玩家，「勝算在我們這邊」。

據(jù)路透社報(bào)道，知情人士透露Anthropic有望在2025年底前實(shí)現(xiàn)內(nèi)部設(shè)定的90億美元年化營(yíng)收目標(biāo)，并預(yù)測(cè)其2026年年化營(yíng)收增長(zhǎng)將接近3倍，目標(biāo)區(qū)間約為200–260億美元。

2025年，Amodei兄妹以及其余聯(lián)合創(chuàng)始人，都因公司估值而成為億萬(wàn)富翁。

據(jù)福布斯估計(jì)，截至去年12月中旬，Dario Amodei的身家大約為37億美元。

批評(píng)同行「YOLO」

呼吁守住AI快車的「方向盤」

Dario表示，Anthropic正在兩件事之間謹(jǐn)慎地走鋼絲：

建設(shè)數(shù)據(jù)中心所需的巨額投資，以及公司過度擴(kuò)張的風(fēng)險(xiǎn)。

這兩件事，也代表了公眾對(duì)AI泡沫的普遍擔(dān)憂。

Dario曾多次「不點(diǎn)名」地批評(píng)一些同行在算力與數(shù)據(jù)中心投資上過于激進(jìn)，像是在「YOLO（You Only Live Once，你只活一次，網(wǎng)絡(luò)語(yǔ)境里常指及時(shí)行樂、干了再說）」，認(rèn)為這種行為是「把風(fēng)險(xiǎn)旋鈕擰過頭」。

2025年11月Google發(fā)布Gemini 3后，OpenAI在12月初內(nèi)部發(fā)出「code red」動(dòng)員以加速改進(jìn)ChatGPT。

對(duì)此，Dario表示我們不需要搞「code red」，他強(qiáng)調(diào)Anthropic將以「更負(fù)責(zé)任地管理」與企業(yè)市場(chǎng)定位尋求差異化突破。

相比較「code red」這種突擊式的革新，他更看重的是可以持續(xù)增長(zhǎng)、持續(xù)開發(fā)模型。

去年11月，Anthropic宣布將花300億美元購(gòu)買微軟Azure的算力，這使得它成為能同時(shí)上AWS、Google Cloud、Microsoft Azure三大云平臺(tái)的模型提供方。

不止是同行之間，Dario也曾在AI監(jiān)管政策方面，和白宮層面產(chǎn)生過觀點(diǎn)交鋒。

當(dāng)時(shí)在相關(guān)法案談判中曾出現(xiàn)「聯(lián)邦預(yù)先排除州級(jí)AI監(jiān)管」的提案并引發(fā)爭(zhēng)議。

Dario批評(píng)這種做法，認(rèn)為這好比正在開車，卻要把方向盤拆下來(lái)，因?yàn)檎J(rèn)準(zhǔn)自己未來(lái)10年都不需要轉(zhuǎn)向。

早期的AI啟蒙

2011年，Dario在普林斯頓獲得了物理學(xué)博士學(xué)位。

在斯坦福大學(xué)醫(yī)學(xué)院做博士后研究期間，他的研究方向，是將生物醫(yī)學(xué)數(shù)據(jù)用于構(gòu)建與分析細(xì)胞蛋白質(zhì)組的網(wǎng)絡(luò)模型。

這段經(jīng)歷，讓他看到了AI在研究領(lǐng)域的潛力。

它可以幫助像他這樣的研究者去攻克生物學(xué)里那些看起來(lái)「大到人力根本搞不定」的問題。

2014年，Dario被時(shí)任斯坦福計(jì)算機(jī)科學(xué)系副教授、百度首席科學(xué)家的Andrew Ng（吳恩達(dá)）招募加入百度。

在百度做語(yǔ)音識(shí)別系統(tǒng)時(shí)，Dario初步形成了對(duì)AI規(guī)模化的直覺。

他曾在一次播客中提到那段經(jīng)歷，當(dāng)時(shí)沒有精確測(cè)量，但他和同事們已經(jīng)非常強(qiáng)烈地形成了一種非正式的直觀認(rèn)識(shí)：

投入到這些模型里的數(shù)據(jù)越多、算力越多、訓(xùn)練越多，它們表現(xiàn)就越好。

和奧特曼一樣，Dario Amodei也是一位「80后」。

1983年，他出生在舊金山。

他的母親Elena Engel從事圖書館翻新與建設(shè)項(xiàng)目相關(guān)工作；父親Riccardo Amodei是一名皮革工匠，在意大利厄爾巴島附近的一個(gè)小鎮(zhèn)長(zhǎng)大。

在他的妹妹Daniela Amodei眼中，哥哥從小便顯得很聰明，經(jīng)常會(huì)一整天數(shù)數(shù)字，看自己能數(shù)到多高。

對(duì)于一名3歲小孩來(lái)說，這種專注力極其罕見。

也許正是這種天賦，造就了日后Dario Amodei在AI領(lǐng)域的成就。

參考資料：

https://www.businessinsider.com/dario-amodei