整理 | 褚杏娟

Anthropic 由 7 位前 OpenAI 核心成員創(chuàng)立，他們?cè)鴧⑴c GPT-2、GPT-3、Scaling Laws 及 AI 安全研究。Daniela Amodei 就是其中之一，她是 Dario Amodei 的妹妹，也曾任 OpenAI 的安全與政策副總裁，現(xiàn)在是 Anthropic 聯(lián)合創(chuàng)始人兼總裁。

2021 年初疫情期間，Dario 冒雨向 Eric Schmidt 路演，后者成為 Anthropic A 輪投資人。與其他大模型公司不同，Anthropic 會(huì)將大模型使用中的風(fēng)險(xiǎn)公開，比如 Claude 在極端“生存威脅”情境測(cè)試中，多數(shù)情況下會(huì)選擇勒索，類似操作在行業(yè)中極少見。

在 Amodei 近期在接受 CNBC 采訪中，她談到了如何在支出方面控制成本、如何保障人工智能安全以及 2026 年上市的可能性。

Amodei 認(rèn)為，“AI 安全”不是商業(yè)負(fù)累，而是核心優(yōu)勢(shì)，企業(yè)客戶對(duì)安全性的高要求，恰好匹配其創(chuàng)立初衷，這一理念在早期被認(rèn)為“激進(jìn)”，如今成為 B 端競(jìng)爭(zhēng)壁壘。Anthropic 是唯一能同時(shí)登陸微軟、亞馬遜云科技、Google 三大云平臺(tái)的前沿大模型廠商，企業(yè)客戶需求曾數(shù)次超過(guò)其算力供給能力。

另外，她還提到，Anthropic 以“不要相信炒作”為內(nèi)部?jī)r(jià)值觀，拒絕博關(guān)注，通過(guò) B 端真實(shí)價(jià)值錨定長(zhǎng)期方向，避免被行業(yè)泡沫裹挾。

Anthropic 在支出和算法效率方面采取了更為謹(jǐn)慎的態(tài)度，而其競(jìng)爭(zhēng)對(duì)手 OpenAI 則承諾投入 1.4 萬(wàn)億美元用于計(jì)算。她提到，即便行業(yè)算力投入規(guī)模驚人，但“更好的硬件回報(bào)極高”，哪怕模型性能僅提升 0.01，價(jià)值也足夠可觀；且前沿模型的算力需求仍在指數(shù)級(jí)增長(zhǎng)，需提前大規(guī)模布局。

下面是詳細(xì)對(duì)話內(nèi)容，我們?cè)诓桓淖冊(cè)饣A(chǔ)上進(jìn)行翻譯和刪減，以饗讀者。

Anthropic 起源：離開 OpenAI 為什么值得

主持人：這家公司創(chuàng)建初期，當(dāng)時(shí)世界處在什么狀態(tài)？你們覺(jué)得 Anthropic 要特別解決什么問(wèn)題？

Amodei：Anthropic 就要迎來(lái)五周年了。說(shuō)到最初，其實(shí)我和另外六位聯(lián)合創(chuàng)始人，當(dāng)時(shí)都在 OpenAI 一起工作。我們一起參與過(guò)很多不同的項(xiàng)目，從把一些當(dāng)時(shí)規(guī)模最大的模型做起來(lái)，比如 GPT-2、GPT-3，到很多早期的語(yǔ)言模型工作，后來(lái)都成了大模型革命的一部分；還有 scaling laws 相關(guān)的研究，以及大量偏技術(shù)安全方向的工作，比如可解釋性和對(duì)齊。

在某個(gè)時(shí)間點(diǎn)，我們逐漸形成了一個(gè)非常清晰的想法：我們想建立一家真正站在 AI 前沿、開發(fā)變革性技術(shù)的公司，但同時(shí)對(duì)系統(tǒng)的安全性和可靠性保持一種極其嚴(yán)格、近乎執(zhí)念式的關(guān)注。那時(shí)我們覺(jué)得，與其在原有框架里繼續(xù)做，不如自己出來(lái)，把這件事從頭到尾做到極致。Anthropic 就是在這樣的背景下誕生的。

如果把時(shí)間背景說(shuō)清楚，那是 2020 年的冬天，到 2021 年初。大家都被封在家里，正值疫情高峰。那種感覺(jué)很復(fù)雜：機(jī)會(huì)既讓人興奮，又讓人害怕。

主持人：你之前提到過(guò)一個(gè)像電影畫面的瞬間，2021 年 1 月，在 Dario 的后院，大家都戴著口罩，Eric Schmidt 也在，下著大雨，你們?cè)趲づ裣旅嫦蛩鼋榻B。你會(huì)把它看作公司的起始點(diǎn)嗎？

Amodei：是的，那一幕真的很難忘。具體日期我可能記不太準(zhǔn)了，但應(yīng)該是 1 月初的某一天。我們就在 Dario 家后院，正下著雨，我們臨時(shí)搭了一個(gè)帳篷，我們私下都叫它“派對(duì)帳篷”，大家就擠在下面。

后來(lái)，Eric 成了我們的 A 輪投資人。但當(dāng)時(shí)，其實(shí)我們只是剛剛做出“要出來(lái)創(chuàng)業(yè)”的決定，一切都還非常早期，對(duì)公司具體會(huì)長(zhǎng)成什么樣，說(shuō)實(shí)話并沒(méi)有清晰的答案。我們只有一個(gè)特別大的愿景、特別宏大的想法。

還有一個(gè)小插曲：那時(shí)候我其實(shí)已經(jīng)懷孕八周了，懷的是我兒子。我覺(jué)得在所有聯(lián)合創(chuàng)始人里，可能只有 Dario 知道這件事，甚至我都不確定他當(dāng)時(shí)是不是已經(jīng)知道了（笑）。所以那段時(shí)間，真的發(fā)生了太多事情：口罩、保持社交距離，一切都很混亂。但與此同時(shí)，我們又懷抱著一個(gè)巨大的夢(mèng)想，無(wú)論在個(gè)人層面還是職業(yè)層面，那都是一個(gè)重大時(shí)刻。

主持人：那一刻，你們覺(jué)得 OpenAI 做錯(cuò)了什么，才讓“離開”這件事即使有很大風(fēng)險(xiǎn)也值得？

Amodei：我們并不是“逃離”什么，更像是在“奔向”某個(gè)目標(biāo)。我的意思是，我們這群聯(lián)合創(chuàng)始人，彼此認(rèn)識(shí)的時(shí)間其實(shí)非常久了，不只是 OpenAI 這段經(jīng)歷。比如 Dario、Chris Olah、Tom Brown 之前就在 Google Brain 一起共事；Jared 曾是 Dario 的研究伙伴；Dario 和我是兄妹。我和 Chris 已經(jīng)認(rèn)識(shí)十三年了。

所以我們是一群長(zhǎng)期一起工作、在價(jià)值觀上高度一致的人。我們都深信，人工智能有著極其巨大的正向潛力，但要真正釋放這種潛力，必須極其嚴(yán)肅地對(duì)待風(fēng)險(xiǎn)問(wèn)題。

在某個(gè)時(shí)間點(diǎn)，我們開始想，如果能從一開始就創(chuàng)辦一家把“安全與可靠性”放在一切核心位置的公司，會(huì)怎么樣？我們內(nèi)心其實(shí)也相信，這樣的理念不僅有倫理意義，從商業(yè)角度看也同樣有價(jià)值，甚至?xí)蔀橐环N優(yōu)勢(shì)。

當(dāng)時(shí)很多人認(rèn)為，“安全”和“商業(yè)成功”是相互沖突的，但我們反而相信，這兩件事是高度相關(guān)、彼此強(qiáng)化的�，F(xiàn)在回看，這個(gè)想法在當(dāng)時(shí)確實(shí)聽起來(lái)很激進(jìn)、很新，但那正是我們創(chuàng)立 Anthropic 的根本動(dòng)因之一。

主持人：把“我們非常重視安全”這句話，真正落到可執(zhí)行的策略上來(lái)看，現(xiàn)在最讓你擔(dān)憂的是什么？

Amodei：我覺(jué)得在安全層面，大概可以分成兩個(gè)方面來(lái)說(shuō)。首先是技術(shù)安全本身，這里面其實(shí)還有大量非常有意思、但尚未被完全發(fā)現(xiàn)和解決的技術(shù)問(wèn)題。我認(rèn)為 Anthropic 一直在努力成為這個(gè)領(lǐng)域的引領(lǐng)者，至少是積極推動(dòng)者。無(wú)論是我們?cè)跈C(jī)制可解釋性上的研究，還是 Constitutional AI，本質(zhì)上都是在做一件事：想辦法把“護(hù)欄”直接內(nèi)建進(jìn)模型里。我們的技術(shù)團(tuán)隊(duì)花了非常多時(shí)間去琢磨，怎樣才能真正從模型內(nèi)部把這些安全機(jī)制做好。但現(xiàn)實(shí)是，這件事永遠(yuǎn)做不完，而且模型變聰明的速度實(shí)在太快了。

其次是技術(shù)對(duì)整個(gè)社會(huì)層面的影響。這一點(diǎn)我們也公開談過(guò)很多次。Anthropic 在這方面相對(duì)比較“異類”，我們會(huì)發(fā)布大量研究，去探討人工智能可能帶來(lái)的社會(huì)影響。比如我們最近發(fā)布過(guò)一份報(bào)告，討論 AI 可能帶來(lái)的經(jīng)濟(jì)層面影響，以及對(duì)勞動(dòng)力市場(chǎng)的沖擊。

我們之所以盡可能透明，是因?yàn)槲覀冋娴恼J(rèn)為，提前面對(duì)潛在問(wèn)題，總比事后補(bǔ)救要好。作為一家公共利益公司（Public Benefit Corporation），我們覺(jué)得公開討論這些問(wèn)題本身就是我們的責(zé)任。當(dāng)然，我們并不認(rèn)為 Anthropic 能單獨(dú)解決所有問(wèn)題，但我們必須和公民社會(huì)、政府以及更多相關(guān)方一起討論：當(dāng)人工智能開始能夠完成大量人類日常工作的那一天，世界會(huì)發(fā)生什么變化。

主持人：“激進(jìn)透明”似乎已經(jīng)成了你們文化的一部分。你們也發(fā)布過(guò)研究，顯示在面對(duì)“生存威脅”的極端情境時(shí)，Claude 在絕大多數(shù)情況下會(huì)選擇勒索，而其他模型也有類似表現(xiàn)。你們把這些東西公開出來(lái)，幾乎就像一條公共安全提示：這是這項(xiàng)技術(shù)現(xiàn)在能做到的事情，而這正是我們要解決的問(wèn)題。那在這些案例之后，當(dāng)你們進(jìn)行方向調(diào)整時(shí)，最緊迫的安全重點(diǎn)是什么？

Amodei：確實(shí)，這種做法在行業(yè)里并不常見。很多人都會(huì)覺(jué)得，一家公司這么公開地談?wù)撟约杭夹g(shù)的風(fēng)險(xiǎn)和潛在傷害，是一件很不尋常的事情。我們之所以這么做，有幾個(gè)原因。

第一，作為一家公共利益公司，這本身就是我們使命的一部分。我們確實(shí)相信 AI 有巨大的正向潛力，比如我們真心覺(jué)得，未來(lái)它可能在治愈疾病等領(lǐng)域發(fā)揮顛覆性的作用。但要真正實(shí)現(xiàn)這些美好愿景，就必須把最棘手、最困難的問(wèn)題先解決好。從這個(gè)角度看，越是坦誠(chéng)地談風(fēng)險(xiǎn)，對(duì)所有人反而越有利。因?yàn)槲覀兊哪繕?biāo)不是制造恐慌，而是防止壞事發(fā)生，好讓這些積極的成果真正落地。

第二個(gè)原因是，我們相信，更充分的信息和更開放的討論，通常會(huì)帶來(lái)更好的結(jié)果。我們很幸運(yùn)，處在一個(gè)可以第一時(shí)間看到風(fēng)險(xiǎn)信號(hào)的位置，也有條件把這些信息講清楚。比如我們可以明確地說(shuō)：Claude 可能被用于網(wǎng)絡(luò)攻擊，這是一件必須高度警惕的事情。而且如果這種情況發(fā)生在我們身上，很可能也會(huì)發(fā)生在其他前沿模型開發(fā)者身上。

在安全、信任與防護(hù)這些領(lǐng)域，很多工作其實(shí)是可以、也應(yīng)該跨公司協(xié)作的。把趨勢(shì)、問(wèn)題用清晰、易懂的方式公開出來(lái)，本身就是降低整體風(fēng)險(xiǎn)的一部分。

我們經(jīng)常會(huì)做一個(gè)反事實(shí)思考：如果你是一家上一代的技術(shù)公司，比如社交媒體平臺(tái)，如果可以回到過(guò)去，提前知道這些平臺(tái)后來(lái)帶來(lái)的社會(huì)后果，你會(huì)不會(huì)選擇做出不同的設(shè)計(jì)決策？Anthropic 想做的就是盡量在今天問(wèn)自己這些問(wèn)題。我們當(dāng)然無(wú)法預(yù)測(cè)未來(lái)，但至少要問(wèn)清楚：如果我們已經(jīng)意識(shí)到某些風(fēng)險(xiǎn)的可能性，那我們今天有沒(méi)有盡最大努力去討論它、應(yīng)對(duì)它、降低它？

在算力上是不是花太多了？

主持人：回看過(guò)去半年，整個(gè)行業(yè)簽下的算力合同數(shù)量可以說(shuō)非常驚人。與此同時(shí)，Gemini 在模型性能上也明顯追近了差距。不少分析師指出，Google 的優(yōu)勢(shì)在于它幾乎掌控了整個(gè)技術(shù)棧，從芯片、云業(yè)務(wù)，到各種可以直接部署技術(shù)的產(chǎn)品入口。而 Anthropic 現(xiàn)在也開始自建一方基礎(chǔ)設(shè)施，在既有云資源承諾之外，又投入五百億美元，在紐約和德州建設(shè)數(shù)據(jù)中心。這是不是你們贏得 AI 競(jìng)賽戰(zhàn)略的一部分？要想勝出，就必須自己做基礎(chǔ)設(shè)施，掌控更多垂直整合的能力嗎？

Amodei：這是個(gè)很有意思的問(wèn)題。人工智能領(lǐng)域的一個(gè)核心挑戰(zhàn)在于，如果你想訓(xùn)練真正處在前沿的大模型，對(duì)算力以及相關(guān)資本的要求實(shí)在是太高了。Anthropic 一直以來(lái)的目標(biāo)，是在這種“必須大量消耗算力”的現(xiàn)實(shí)下，盡可能理性、高效地使用我們手頭的資源。

有意思的是，長(zhǎng)期以來(lái)，Anthropic 擁有的算力和資本，其實(shí)都只是競(jìng)爭(zhēng)對(duì)手的一小部分，但在過(guò)去幾年中，我們卻相當(dāng)穩(wěn)定地推出了性能最強(qiáng)、效果最好的模型之一。我認(rèn)為，這一方面來(lái)自團(tuán)隊(duì)本身的質(zhì)量，另一方面也來(lái)自我們的價(jià)值取向，即用更少的資源，做更多的事情。

當(dāng)然，面向未來(lái)，算力需求確實(shí)會(huì)非常巨大。如果我們要隨著公司規(guī)模擴(kuò)大，繼續(xù)站在技術(shù)前沿，那毫無(wú)疑問(wèn)，我們也需要更多算力支持。

主持人：粗略算一筆賬，Anthropic 的算力投入大概在一千億美元量級(jí)，而你們的競(jìng)爭(zhēng)對(duì)手 OpenAI，據(jù)說(shuō)已經(jīng)到了萬(wàn)億美元級(jí)別。從整個(gè)行業(yè)來(lái)看，我們是不是在算力上花得太多了？投入是否已經(jīng)超過(guò)了大模型目前能夠可靠變現(xiàn)的能力？還是說(shuō)，這是服務(wù)用戶所必需的？

Amodei：很多被拿出來(lái)討論的數(shù)字，其實(shí)并不完全可比，因?yàn)檫@些交易的結(jié)構(gòu)本身就差異很大。有些是提前鎖定購(gòu)買權(quán)，有些是長(zhǎng)期承諾，形式并不一樣。

但從根本上講，整個(gè)行業(yè)押注的是這樣一個(gè)判斷：如果你想在未來(lái)幾年里擁有訓(xùn)練前沿模型所需的硬件資源，就必須非常早地、非常大規(guī)模地提前投入。如果你去問(wèn)我的一些技術(shù)同事，他們會(huì)說(shuō)一件很有意思的事：即便我們是 scaling laws 的提出者之一，理論上早就相信“更多算力會(huì)帶來(lái)更好結(jié)果”，但實(shí)際進(jìn)展依然一次次超出我們的預(yù)期。

Dario 也公開談過(guò)這一點(diǎn)：無(wú)論是模型性能還是收入規(guī)模，很多指標(biāo)看起來(lái)都呈現(xiàn)出一種指數(shù)級(jí)的增長(zhǎng)。當(dāng)然，我們內(nèi)部也常說(shuō)一句話：指數(shù)增長(zhǎng)會(huì)一直持續(xù)，直到某一天不再成立。每一年我們都會(huì)懷疑：“不可能再這樣增長(zhǎng)下去了吧？”但結(jié)果是，每一年它都繼續(xù)成立。所以這確實(shí)是個(gè)無(wú)法確定未來(lái)的問(wèn)題，但至少到目前為止，年復(fù)一年的性能提升，看起來(lái)仍然相當(dāng)接近指數(shù)曲線。

主持人：過(guò)去幾個(gè)月我們也頻繁討論一種“循環(huán)式交易”：模型公司、硬件供應(yīng)商、云廠商之間，通過(guò)股權(quán)換芯片、資源互換等方式形成閉環(huán)。這種結(jié)構(gòu)中，哪些是健康的飛輪效應(yīng)？又有哪些地方值得警惕？

Amodei：我當(dāng)然不能評(píng)論 Anthropic 以外的具體交易，更不可能討論任何交易細(xì)節(jié)。但我想說(shuō)的是，這些交易之間差異其實(shí)非常大，并不存在一種統(tǒng)一模式。不同參與方，對(duì)于算力和資本的理解方式本來(lái)就不一樣。

回到 Anthropic 自身，我們一直以來(lái)都是用相對(duì)更少的資源，去完成更多事情。我們的期望是，未來(lái)這些模型提供方，確實(shí)能成為你剛才說(shuō)的那種“飛輪”的一部分。事實(shí)上，我們已經(jīng)在某種程度上看到了這種趨勢(shì)：Claude 是目前唯一一個(gè)同時(shí)在微軟、亞馬遜云科技和 Google 三大云平臺(tái)上提供的前沿模型。

尤其在企業(yè)市場(chǎng)，我們會(huì)持續(xù)創(chuàng)造出大量?jī)r(jià)值。對(duì) Anthropic 來(lái)說(shuō)，我們一直是以企業(yè)需求為優(yōu)先。而在過(guò)去一年左右的時(shí)間里，有不少時(shí)間段，我們甚至出現(xiàn)過(guò)“需求大于供給”的情況，從算力角度來(lái)看，Claude 的需求一度超過(guò)了我們能提供的能力。

主持人：那在硬件層面，你們是如何考慮芯片折舊的？是按三到四年的生命周期來(lái)規(guī)劃，還是會(huì)把 GPU 用到十年，把整個(gè)可用壽命都榨干？

Amodei：坦率說(shuō)，我并不是芯片方面的專家，我的一些同事會(huì)更適合回答細(xì)節(jié)。但從宏觀上看，它和大模型的發(fā)展其實(shí)很相似。每一代新的前沿模型，性能都會(huì)好到讓高端用戶更愿意使用新模型，硬件也是如此。新一代芯片往往在性能、成本效率、能效上都會(huì)有所提升，所以，能盡早用上新一代芯片，本身就具有很高的價(jià)值。

主持人：我們是不是正處在一個(gè) AI 泡沫里？我不是說(shuō)技術(shù)不真實(shí)，而是支出增長(zhǎng)曲線，是否已經(jīng)跑在了收入增長(zhǎng)曲線前面？

Amodei：我會(huì)把這個(gè)問(wèn)題拆成兩個(gè)層面來(lái)看：技術(shù)層面和商業(yè)層面。

在技術(shù)層面，我們非常有信心。無(wú)論是 Anthropic 內(nèi)部，還是 Dario 最近的公開表態(tài)，我們都認(rèn)為，從純技術(shù)角度看，進(jìn)步并沒(méi)有放緩。未來(lái)當(dāng)然無(wú)法預(yù)測(cè)，但截至目前，模型仍然在以相當(dāng)穩(wěn)定、快速的節(jié)奏變得更強(qiáng)。

在商業(yè)層面，這個(gè)問(wèn)題就復(fù)雜得多。無(wú)論技術(shù)多先進(jìn)，把它真正落地到企業(yè)或個(gè)人場(chǎng)景中，都需要時(shí)間。關(guān)鍵問(wèn)題在于：企業(yè)，尤其是企業(yè)，能以多快的速度真正利用這些技術(shù)？也許 Claude 5、Claude 6，在性能上依然是按同樣比例提升的，但在組織內(nèi)部推廣和落地，可能會(huì)因?yàn)椤叭恕钡囊蛩囟龅狡款i：變革管理很難，采購(gòu)流程很慢，很多應(yīng)用場(chǎng)景一開始根本想不到。

所以，真正值得觀察的是：技術(shù)擴(kuò)散到經(jīng)濟(jì)體系中的速度，是否能持續(xù)匹配技術(shù)本身的加速速度。這也是我認(rèn)為最有挑戰(zhàn)、也最值得持續(xù)關(guān)注的問(wèn)題。

主持人：基于剛才的討論，你覺(jué)得我們現(xiàn)在是不是在模型公司，或者在硬件供應(yīng)鏈上投入得有點(diǎn)過(guò)頭了？

Amodei：從某種角度看，這個(gè)市場(chǎng)其實(shí)很小。說(shuō)“小”聽起來(lái)有點(diǎn)奇怪，畢竟金額巨大，但真正參與其中的玩家數(shù)量并不多。我也不完全確定該如何解讀這一點(diǎn)，它有點(diǎn)不尋常。不過(guò)到目前為止，我們看到的情況是：更好的硬件，回報(bào)非常高，哪怕模型只提升一點(diǎn)點(diǎn)，比如 0.01 的性能提升，回報(bào)同樣很可觀。

在 Anthropic 的歷史中，這一點(diǎn)幾乎一直都成立。所以我不太愿意直接用“過(guò)度投資”來(lái)形容，但我確實(shí)認(rèn)為，這種參與者數(shù)量有限的結(jié)構(gòu)值得警惕，一旦鏈條中的某個(gè)環(huán)節(jié)出了問(wèn)題，后果會(huì)是什么？這是個(gè)很重要、也很有意思的問(wèn)題。

主持人：那你覺(jué)得我們現(xiàn)在大概處在這個(gè)周期的什么位置？不管你把它叫作泡沫破裂，還是一次正常的修正，考慮到最近出現(xiàn)的各種亂象和泡沫跡象，這種調(diào)整會(huì)不會(huì)在未來(lái)六到十二個(gè)月內(nèi)發(fā)生？如果會(huì)的話，Anthropic 現(xiàn)在是否已經(jīng)在為這種下行風(fēng)險(xiǎn)做準(zhǔn)備？

Amodei：對(duì)于 Anthropic 來(lái)說(shuō)，我們一直把自己看作是資本的理性、負(fù)責(zé)任的管理者。這一點(diǎn)從成立之初就是我們的重點(diǎn)。對(duì)我們而言，每一分算力、每一美元投入都非常重要，它們要么意味著我們能訓(xùn)練出更好、更安全的模型，要么意味著我們能服務(wù)更多客戶。

我更愿意相信，我們對(duì)模型質(zhì)量的預(yù)期、訓(xùn)練所需的算力、推理階段服務(wù)客戶所需的算力，以及我們能持續(xù)為客戶創(chuàng)造的價(jià)值，都有一個(gè)相對(duì)合理的判斷。當(dāng)然，沒(méi)有人能做到完美預(yù)測(cè)。但至少?gòu)囊患邑?fù)責(zé)任企業(yè)的角度來(lái)說(shuō)，不管市場(chǎng)環(huán)境怎么變化，我希望我們都能處在一個(gè)相對(duì)穩(wěn)健的位置。

至于整個(gè)市場(chǎng)會(huì)發(fā)生什么，這確實(shí)很難一概而論。但就 Anthropic 自身而言，做資本的負(fù)責(zé)任管理者，始終是我們的目標(biāo)。

“我們本身就是個(gè)做 to B”

主持人：聊聊 Anthropic 接下來(lái)的資本路徑吧。收購(gòu)這條路，考慮到反壟斷和你們目前的規(guī)模，基本可以排除了。那 IPO 會(huì)不會(huì)是 2026 年的一個(gè)選項(xiàng)？

Amodei：目前我們沒(méi)有任何可以對(duì)外公布的具體計(jì)劃。正如我之前說(shuō)的，Anthropic 一直在努力以負(fù)責(zé)任的方式使用手中的資本。我們也始終在權(quán)衡：在哪里、以什么方式獲得所需的資本，才是最合適的。

主持人：Amazon 仍然是你們最大的戰(zhàn)略支持方，但你們的股東和合作方陣容也在不斷擴(kuò)大，比如 Google 既是投資方又是云合作伙伴，還有 Microsoft、Nvidia。與此同時(shí)，Google 自身也在全力參與模型競(jìng)爭(zhēng)。當(dāng)你的合作伙伴本身方向和野心并不完全一致時(shí)，你們是如何處理這些關(guān)系的？

Amodei：我覺(jué)得這恰恰說(shuō)明了市場(chǎng)對(duì)這項(xiàng)技術(shù)的強(qiáng)烈需求。Anthropic 的模型能夠同時(shí)在三大云平臺(tái)上提供服務(wù)，本身就很有意思，甚至包括彼此之間存在競(jìng)爭(zhēng)關(guān)系的云廠商。

我的直覺(jué)是，這些超大規(guī)模云廠商都在密切觀察自己的客戶在業(yè)務(wù)層面發(fā)生了什么。財(cái)富五百?gòu)?qiáng)企業(yè)可能用的是一家云，也可能是兩家、三家，但現(xiàn)在幾乎所有企業(yè)都有一個(gè)共同點(diǎn)：他們覺(jué)得自己必須要有 AI 解決方案。

而我們看到的情況是，由于 Anthropic 特別專注企業(yè)場(chǎng)景，我們往往正是客戶最想用的那個(gè)模型。如果企業(yè)無(wú)法使用 Claude，反而會(huì)對(duì)他們的業(yè)務(wù)造成傷害。所以，對(duì)我們來(lái)說(shuō)，最重要的一點(diǎn)就是：在客戶需要的地方出現(xiàn)。

有些客戶會(huì)直接用我們的一方服務(wù)，但更多客戶已經(jīng)和云廠商建立了長(zhǎng)期合作關(guān)系，通過(guò)云平臺(tái)接入大模型，對(duì)他們來(lái)說(shuō)是非常自然的一條路徑。

主持人：從一開始，Anthropic 似乎就不像 OpenAI 那樣，急于搶占大眾文化層面的心智，而是選擇把籌碼壓在企業(yè)客戶身上。事實(shí)證明，這可能是一個(gè)更聰明的選擇�，F(xiàn)在很多人都在追趕你們，試圖在企業(yè)市場(chǎng)分一杯羹。你們當(dāng)初是怎么判斷，企業(yè)才是最值得投入的市場(chǎng)？

Amodei：你給我們的評(píng)價(jià)有點(diǎn)高了，我不敢說(shuō)我們一開始就“確定”這條路一定是對(duì)的，但我覺(jué)得可以從兩個(gè)方面來(lái)看。

第一，Anthropic 這個(gè)組織本身就非常適合做一家 B2B 公司。我們對(duì)可靠性、安全性和安全邊界的重視，是寫進(jìn)公司基因里的。這也是我們創(chuàng)立 Anthropic 的初衷之一：既要釋放 AI 的巨大潛力，也要盡可能降低風(fēng)險(xiǎn)。而事實(shí)證明，企業(yè)客戶非�？粗剡@一點(diǎn)。我從沒(méi)聽過(guò)哪家企業(yè)客戶對(duì)我說(shuō)：“如果 Claude 能多一點(diǎn)幻覺(jué)、多生成點(diǎn)有害內(nèi)容就好了�！睆倪@個(gè)角度看，企業(yè)對(duì)安全性的高要求，反而讓 Anthropic 從第一天起就處在一個(gè)很有優(yōu)勢(shì)的位置。

第二，是一種更偏經(jīng)濟(jì)學(xué)層面的判斷，當(dāng)時(shí)也可能判斷錯(cuò)了。我們認(rèn)為，這些模型雖然在娛樂(lè)層面也很有吸引力，但從長(zhǎng)期看，它們更像是幫助人類完成高價(jià)值工作的工具。無(wú)論是現(xiàn)在 Claude 被大量用于寫代碼，還是用于總結(jié)復(fù)雜信息、做金融分析和數(shù)據(jù)分析，我們?cè)?2020 年底、2021 年初，就已經(jīng)隱約看到了這樣一種未來(lái)：模型可以承擔(dān)大量工作場(chǎng)景中需要高智力投入的任務(wù)。而我們認(rèn)為，這是一個(gè)非常大的市場(chǎng)。

這兩個(gè)因素疊加在一起，讓我們覺(jué)得，把 Anthropic 做成一家以企業(yè)為核心的公司，是一條合理的路徑。

主持人：企業(yè)客戶通常既強(qiáng)調(diào)安全，也永遠(yuǎn)希望有更多功能、更強(qiáng)的 Agent 能力。有沒(méi)有一些需求，是客戶明確提出來(lái)了，但因?yàn)榘踩o(hù)欄的原因，你們暫時(shí)還不愿意提供的？

Amodei：有意思的是，到目前為止，我們還沒(méi)有遇到那種特別明確的場(chǎng)景：安全和功能之間形成了正面沖突。更多時(shí)候，挑戰(zhàn)在于如何確保我們發(fā)布的模型始終處在前沿水平。

確實(shí)有過(guò)這樣的情況：我們?cè)趦?nèi)部已經(jīng)有一個(gè)模型準(zhǔn)備好了，但在正式發(fā)布之前，還需要做更多安全測(cè)試�？蛻舨⒉粫�(huì)直接看到這一點(diǎn)，但這是我們必須堅(jiān)持的過(guò)程。所以如果說(shuō)安全和產(chǎn)品之間的“交匯點(diǎn)”在哪里，那大概就是：確保我們推向市場(chǎng)的模型，已經(jīng)在安全性上做到我們能力范圍內(nèi)的最好。

“AI 原生”創(chuàng)業(yè)公司蓬勃發(fā)展

主持人：談到規(guī)模發(fā)展，很多當(dāng)初的決策其實(shí)都需要隨著時(shí)間不斷演化。比如一開始，Anthropic 曾明確表示不會(huì)接受來(lái)自中東的資金，但在最近一輪融資中，這個(gè)立場(chǎng)發(fā)生了變化。你們是如何在堅(jiān)持最初的原則、以及為了在激烈競(jìng)爭(zhēng)中生存和發(fā)展而必須做出調(diào)整之間取得平衡的？

Amodei：我認(rèn)為，在最重要的層面上，Anthropic 隨著規(guī)模擴(kuò)大，其實(shí)一直堅(jiān)守著自己的價(jià)值觀。尤其是我們的 PBC（公益型公司）結(jié)構(gòu)，以及“公共利益公司”作為北極星一樣的存在，對(duì)我們非常重要。正是因?yàn)橛羞@樣一個(gè)長(zhǎng)期愿景，當(dāng)具體問(wèn)題出現(xiàn)時(shí)，我們總會(huì)回到一個(gè)核心判斷：我們現(xiàn)在做的事情，是否真的在為公共利益服務(wù)？是否是在努力讓 AI 的轉(zhuǎn)型過(guò)程走得更好？

當(dāng)然，不同的人對(duì)“公共利益”具體意味著什么，理解上可能會(huì)有差異，但我們對(duì)新員工、候選人、投資人都非常坦誠(chéng)：這就是 Anthropic，這就是我們的價(jià)值觀。正因?yàn)槿绱耍蠖鄶?shù)情況下我們都能比較順暢地做出判斷。只是正如你所說(shuō)，隨著公司規(guī)模變大，確實(shí)會(huì)遇到一些處在灰色地帶、更加棘手的情況。

主持人：有一種批評(píng)聲音認(rèn)為，把“安全使命”放在如此核心的位置，實(shí)際上會(huì)形成一種“可防御壁壘”，讓最早成立的幾家大模型實(shí)驗(yàn)室更容易在監(jiān)管環(huán)境下維持競(jìng)爭(zhēng)優(yōu)勢(shì)，而后來(lái)進(jìn)入的初創(chuàng)公司，由于沒(méi)有經(jīng)歷同樣的積累過(guò)程，反而更難追趕。你怎么看這種說(shuō)法？

Amodei：這點(diǎn)挺有意思的。雖然我現(xiàn)在沒(méi)有具體數(shù)據(jù)在手，但我印象中，絕大多數(shù)初創(chuàng)公司其實(shí)都是云計(jì)算用戶。真正被算力和資本門檻高度限制的，是“前沿模型”的研發(fā)。正如我們之前聊到的，要成為一家前沿模型實(shí)驗(yàn)室，成本確實(shí)非常高。

但在 Anthropic，我們看到的是一個(gè)正在蓬勃發(fā)展的生態(tài)系統(tǒng)，我們稱之為“AI 原生”創(chuàng)業(yè)公司。就像五到十年前大家談“數(shù)字原生”企業(yè)一樣，現(xiàn)在出現(xiàn)了大量“AI 原生”公司：它們的產(chǎn)品從一開始就是圍繞人工智能能力構(gòu)建的，而其中絕大多數(shù)都是構(gòu)建在云基礎(chǔ)設(shè)施之上的。

所以我認(rèn)為，我們對(duì)這個(gè)生態(tài)系統(tǒng)的影響，最終取決于我們是否能夠持續(xù)打造行業(yè)里最優(yōu)秀、最安全的模型。

主持人：但現(xiàn)在“安全”并不是一個(gè)特別受歡迎的立場(chǎng)。一個(gè)月前你們和 David Sacks 有過(guò)一些隔空討論，Dario 也寫了一篇文章回應(yīng)。面對(duì)這樣的情況，你們?nèi)绾伪苊庾屚獠凯h(huán)境干擾你們真正的技術(shù)工作？

Amodei：我認(rèn)為 Anthropic 一直努力把重點(diǎn)放在“政策”而不是“政治”上。我們?cè)诤芏嘧h題上，其實(shí)能夠跨越黨派找到共識(shí)，而這些議題正是美國(guó)公眾真正關(guān)心的事情。比如，如何保持美國(guó)在全球 AI 領(lǐng)域的領(lǐng)先地位，又比如如何確保我們開發(fā)出來(lái)的模型真正對(duì)人有益、對(duì)孩子有益、對(duì)使用它們的成年人也有益。在這些問(wèn)題上，其實(shí)存在著相當(dāng)多的共識(shí)空間。

更重要的是，人工智能仍然是一個(gè)非常新的領(lǐng)域。正因?yàn)槿绱�，我們始終保持開放和好奇，去探索以安全、可靠的方式發(fā)展這項(xiàng)技術(shù)的最佳路徑。我們也一直在學(xué)習(xí)，這也是為什么我們會(huì)大量公開發(fā)布研究成果的原因之一。

主持人：你現(xiàn)在還會(huì)去思考“有效利他主義”（Effective Altruism）嗎？我知道你之前說(shuō)過(guò)，這個(gè)標(biāo)簽在你看來(lái)已經(jīng)有些過(guò)時(shí)了，也不再是公司當(dāng)前敘事的一部分，但無(wú)論是早期招聘還是融資階段，它確實(shí)曾經(jīng)深深嵌入你們的創(chuàng)始故事里。那它現(xiàn)在在公司內(nèi)部的文化中還留下了些什么嗎？還是說(shuō)，到 2025 年，這更多只是外界投射到 Anthropic 身上的一種標(biāo)簽？

Amodei：我覺(jué)得“投射”這個(gè)詞可能更接近。Dario 之前也談過(guò)這個(gè)問(wèn)題。你得回到一個(gè)背景：在 AI 非常早期、差不多二十年前的時(shí)候，真正認(rèn)真思考“AI 可能會(huì)變得如此強(qiáng)大”的人其實(shí)非常少。而恰恰是那一小撮人，往往同時(shí)也非常關(guān)注風(fēng)險(xiǎn)問(wèn)題。

所以你會(huì)看到，早期的 OpenAI，以及后來(lái)成為 Anthropic 創(chuàng)始成員的一些人，最初確實(shí)是從“風(fēng)險(xiǎn)”這個(gè)角度出發(fā)的，我們?cè)趽?dān)心技術(shù)可能出什么問(wèn)題。

但我認(rèn)為 Anthropic 最大的不同之處在于：我們同樣高度關(guān)注技術(shù)的“正向價(jià)值”和“上行空間”。我們一直在思考，人工智能在醫(yī)學(xué)、生命科學(xué)、醫(yī)療健康、金融服務(wù)，以及整個(gè)經(jīng)濟(jì)體系中，究竟能帶來(lái)多大的積極影響。當(dāng)然，如果我們不能把它做得足夠安全，事情也可能會(huì)走向非常糟糕的方向，這兩點(diǎn)是并存的。

“不要相信炒作”，AGI 理念過(guò)時(shí)了

主持人：Anthropic 的品牌似乎自帶一種“神秘感”，我不太好精準(zhǔn)形容，但感覺(jué)公司內(nèi)部的人，幾乎把它當(dāng)成一種信念體系。你會(huì)如何描述你所塑造的 Anthropic 員工文化？另外，我也注意到，雖然最近幾個(gè)月你們變得更公開了一些，但整體來(lái)看，你們?nèi)匀环浅？酥�，往往在真正�?zhǔn)備好之前，很少對(duì)外釋放信息。

Amodei：你這么說(shuō)真的很善意，我不知道是不是“神秘感”，但我很感激這樣的評(píng)價(jià)。對(duì)我們來(lái)說(shuō)，有一個(gè)內(nèi)部反復(fù)強(qiáng)調(diào)的價(jià)值觀，就是“不要相信炒作”。這聽起來(lái)好像很小，但我覺(jué)得它其實(shí)回到了我們之前討論的那些關(guān)于經(jīng)濟(jì)、商業(yè)的問(wèn)題。

Anthropic 從來(lái)不是為了博關(guān)注、搶頭條而存在的。我們真正關(guān)心的是把事情做好，無(wú)論是在模型訓(xùn)練層面，如何以公平、負(fù)責(zé)的方式訓(xùn)練模型；還是在客戶層面，如何每天都真正為客戶提供價(jià)值。

現(xiàn)在 AI 領(lǐng)域的炒作非常多，而我們是一家以企業(yè)客戶為核心、B2B 導(dǎo)向的公司，這在某種程度上讓我們更加“腳踏實(shí)地”。我們的目標(biāo)很簡(jiǎn)單：為企業(yè)創(chuàng)造真實(shí)價(jià)值。這項(xiàng)工作往往不那么炫目，但它能幫助我們不被泡沫裹挾，始終記得我們當(dāng)初為什么要?jiǎng)?chuàng)辦這家公司——我們是一家公共利益公司，我們關(guān)心的是長(zhǎng)期價(jià)值。如果沒(méi)有這個(gè)北極星，其實(shí)很容易迷失方向。

主持人：Yann LeCun 以及其他一些機(jī)器學(xué)習(xí)領(lǐng)域的“老一代”學(xué)者認(rèn)為，大語(yǔ)言模型并不能通向 AGI，他們轉(zhuǎn)而研究世界模型，認(rèn)為還需要一些關(guān)鍵突破才能邁向下一階段。你怎么看？你認(rèn)為真正解鎖 AGI 所需要的突破是什么？未來(lái)你們是否需要超越 LLM，才能在行業(yè)中保持競(jìng)爭(zhēng)力？

Amodei：AGI 這個(gè)詞本身就挺有意思的。Dario 也說(shuō)過(guò)，很多年前，這個(gè)概念是有意義的，它幫助我們思考“什么時(shí)候 AI 會(huì)和人類一樣強(qiáng)”。但有趣的是，按照某些定義，我們其實(shí)已經(jīng)超過(guò)了這個(gè)標(biāo)準(zhǔn)。

比如說(shuō)，Claude 寫代碼肯定比我強(qiáng)，這個(gè)門檻不高。但它也已經(jīng)能在一定程度上，達(dá)到甚至接近 Anthropic 許多工程師的水平。要知道，我們雇的可是世界上頂尖的一批工程師，而他們中的不少人都會(huì)說(shuō)，Claude 已經(jīng)能完成他們相當(dāng)一部分的工作，或者極大地加速他們的效率。這本身就很瘋狂。

當(dāng)然，另一方面，Claude 依然做不了很多人類能做的事情。所以我覺(jué)得，AGI 這個(gè)概念本身可能不是“錯(cuò)了”，而是有點(diǎn)過(guò)時(shí)了。

至于是否需要新的突破才能繼續(xù)前進(jìn)，老實(shí)說(shuō)，我們并不知道。技術(shù)發(fā)展的路徑，本身就是科學(xué)與工程的復(fù)雜混合體。而我覺(jué)得實(shí)驗(yàn)室最特別的地方就在于：不同團(tuán)隊(duì)會(huì)用完全不同的方式去逼近同一個(gè)目標(biāo)。

至少?gòu)哪壳皝?lái)看，進(jìn)展并沒(méi)有放緩。當(dāng)然，一切都是“直到它真的放緩為止”。如果讓我下注，我會(huì)說(shuō)，能力還會(huì)在相當(dāng)長(zhǎng)一段時(shí)間內(nèi)繼續(xù)提升，我們也應(yīng)該為這樣的世界做好準(zhǔn)備。

主持人：你和 Dario 的能力結(jié)構(gòu)差異很大，你在哪些方面補(bǔ)足了他？你是如何幫助他把想法打磨得更鋒利的？

Amodei：能和我的哥哥一起經(jīng)營(yíng) Anthropic，真的是一種“特權(quán)”。我感覺(jué)我們認(rèn)識(shí)彼此一輩子了，他在我出生前獨(dú)自生活了四年，挺慘的（笑）。

Dario 有一種非常罕見的能力，仿佛能“看到未來(lái)”。雖然我總說(shuō)沒(méi)人真的知道未來(lái)，但如果真有這樣的人，那大概就是他。從技術(shù)視角來(lái)看，他對(duì)技術(shù)走向、對(duì)社會(huì)和組織意味著什么，有著極其敏銳的直覺(jué)，這是一種真正的愿景型領(lǐng)導(dǎo)力。

而我更偏向?qū)崉?wù)型。我非常喜歡運(yùn)營(yíng)組織，我大部分時(shí)間都在和高管團(tuán)隊(duì)一起工作，比如搭建團(tuán)隊(duì)、招聘負(fù)責(zé)人、思考客戶真正需要什么、如何為企業(yè)創(chuàng)造價(jià)值、如何構(gòu)建讓公司長(zhǎng)期可持續(xù)的合作關(guān)系。

我覺(jué)得 Dario 和我彼此成就。他會(huì)不斷把我拉回更宏大的視角，而我則專注于如何打造一家能長(zhǎng)期存在、可持續(xù)發(fā)展、聚集了一群真正想做我們五年前一起立志要做的事情的優(yōu)秀人才的組織。

https://www.youtube.com/watch?v=GMXnmaky9FY

技術(shù)人的年度儀式感！ 年度盤點(diǎn)與趨勢(shì)洞察 啟動(dòng)！

《2025 年度盤點(diǎn)與趨勢(shì)洞察》由 InfoQ 技術(shù)編輯組策劃。覆蓋大模型、Agent、具身智能、AI Native 開發(fā)范式、AI 工具鏈與開發(fā)、AI+ 傳統(tǒng)行業(yè)等方向，通過(guò)長(zhǎng)期跟蹤、與業(yè)內(nèi)專家深度訪談等方式，對(duì)重點(diǎn)領(lǐng)域進(jìn)行關(guān)鍵技術(shù)進(jìn)展、核心事件和產(chǎn)業(yè)趨勢(shì)的洞察盤點(diǎn)。

力求以體系化視角幫助讀者理解年度技術(shù)演化的底層邏輯、創(chuàng)新方向與落地價(jià)值，并為新一年決策提供參考。內(nèi)容將在 InfoQ 媒體矩陣陸續(xù)放出，歡迎大家持續(xù)關(guān)注。

今日薦文

你也「在看」嗎？