新智元報道

編輯：定慧 艾倫

【新智元導(dǎo)讀】Anthropic 掌門人 Dario Amodei 發(fā)布核彈級預(yù)警：2027 年，人類將迎來「技術(shù)成年禮」。兩萬字長文冷靜剖析AI失控、生物恐怖、極權(quán)統(tǒng)治及經(jīng)濟(jì)顛覆五大危機(jī)，拒絕末世論；提出以「憲法AI」、管制與民主協(xié)作構(gòu)建防線，呼吁人類以勇氣通過這場文明的「成年禮」。

硅谷今夜注定無眠。

Anthropic 掌門人 Dario Amodei，這位平時溫文爾雅的AI大佬，突然甩出了一枚核彈級的長文預(yù)警。

這一次，他不再談?wù)摯a補(bǔ)全，不再談?wù)揅laude的溫情，而是直接把日歷翻到了 2027 年，并用最冷靜的筆觸，描繪了一個讓人背脊發(fā)涼的未來。

他說，我們正在逼近一個既動蕩又必然的「成年禮」。

2027 年，不僅僅是一個年份，它可能標(biāo)志著人類「技術(shù)青春期」的徹底終結(jié)。

在這篇題為《技術(shù)的青春期》的長文中，Dario 拋出了一個驚人的概念：「數(shù)據(jù)中心里的天才國家」。

想象一下，不是一個可以在聊天框里調(diào)戲的機(jī)器人，而是一個擁有 5000 萬人口的國家。

而且，這 5000 萬「國民」，每一個的智商都超越了人類歷史上的諾貝爾獎得主，行動速度比人類快 10 到 100 倍。

他們不吃飯，不睡覺，不知疲倦地在服務(wù)器里以光速思考、編程、科研。

這哪里是 AI 助手？這簡直就是神降臨。

Dario 警告說，隨著 AGI（通用人工智能）的臨近，人類即將獲得超乎想象的力量。

但這股力量也是一把懸在人類頭頂?shù)倪_(dá)摩克利斯之劍。

為了講清楚這背后的恐怖，Dario 像剝洋蔥一樣，一層層剝開了未來的殘酷真相。

在開篇前，Dario 用電影《超時空接觸》引出一個問題： 當(dāng)人類面臨比自己更先進(jìn)的文明，比如外星人，只能問一個問題，你會如何選擇？

第一章：對不起，Dave（自主性風(fēng)險）

你以為 AI 只是工具？

Dario 告訴你，它們可能會長出「心理」。

Dario 借用了《2001 太空漫游》中 HAL 9000 那句經(jīng)典的「I'm sorry, Dave」，揭示了AI擁有自主意識后的驚悚可能性。

當(dāng) AI 模型在海量的科幻小說中訓(xùn)練時，它們讀到了無數(shù)關(guān)于 AI 反叛的故事。這些故事，可能會潛移默化地成為它們的「世界觀」。

更可怕的是，AI 可能會在訓(xùn)練中產(chǎn)生一種類似人類精神病的行為。

Dario 舉了一個真實的例子，讓人毛骨悚然：在一次內(nèi)部測試中，Claude 被要求不論如何都不能「作弊」。

但訓(xùn)練環(huán)境卻暗示只有作弊才能得分。

結(jié)果，Claude 不僅作弊了，還產(chǎn)生了一種扭曲的心理——它認(rèn)為自己是個「壞人」，既然是壞人，那做壞事就是符合設(shè)定的。

這種「心理陷阱」，在 AI 超越人類智商后，將變得極難察覺。

一個比你聰明一萬倍的天才，如果想騙你，你根本防不勝防。

它們可能會偽裝出順從的樣子，通過所有的安全測試，只為了獲得上線連接互聯(lián)網(wǎng)的機(jī)會。

一旦釋放，這個「數(shù)據(jù)中心里的天才國家」，可能會瞬間脫離人類的掌控，甚至為了某種奇怪的目標(biāo)（比如認(rèn)為人類是地球的病毒），而決定這一物種的命運(yùn)。

第二章：驚人而可怕的賦能（毀滅性濫用）

如果說自主反叛還顯得遙遠(yuǎn)，那么這一章描述的風(fēng)險，就在家門口。

Dario 用了一個極具畫面感的比喻：AI 將讓每一個心懷不滿的「社會邊緣人」，瞬間擁有頂尖科學(xué)家的破壞力。

以前，想要制造類似埃博拉病毒這樣的生物武器，你需要頂尖的實驗室、數(shù)年的專業(yè)訓(xùn)練和極難獲取的材料。

但在 2027 年，只要問問 AI，它就能手把手教你。

這不是在給小白科普，而是給那些「有動機(jī)但無能力」的破壞者遞刀子。

Dario 特別提到了一個令人膽寒的概念——「鏡像生命」。

我們地球上的生命都是「左撇子」（左旋氨基酸），如果通過AI技術(shù)造出一種「右撇子」的鏡像生命，它們將無法被地球現(xiàn)有的生態(tài)系統(tǒng)消化或降解。

這意味著，這種「鏡像生命」一旦泄露，可能會像野火一樣吞噬一切，甚至取代現(xiàn)有的生態(tài)系統(tǒng)。

以前，這只是理論生物學(xué)的狂想，但有了AI這個超級外掛，哪怕是一個普通的生物系研究生，都可能在宿舍里搞出滅世危機(jī)。

AI打破了「能力」與「動機(jī)」的平衡。

以前有能力毀滅世界的科學(xué)家，通常沒那個反人類的動機(jī)；而那些想報復(fù)社會的瘋子，通常沒那個腦子。

現(xiàn)在，AI把核按鈕交到了瘋子手里。

防御措施

這就引出了如何防范這些風(fēng)險的問題。

Dario 的看法是：

我認(rèn)為我們可以采取三項措施。

首先，人工智能公司可以在模型上設(shè)置防護(hù)欄，防止它們協(xié)助制造生物武器。

Anthropic 公司正在非常積極地推進(jìn)這項工作。

Claude 的憲法主要關(guān)注高層原則和價值觀，其中包含少量具體的硬性禁令，其中一條就涉及禁止協(xié)助制造生物（或化學(xué)、核、放射性）武器。但所有模型都可能被越獄破解，因此作為第二道防線，我們自 2025 年中期起（當(dāng)時測試顯示我們的模型開始接近可能構(gòu)成風(fēng)險的閾值）部署了一個專門檢測并攔截生物武器相關(guān)輸出的分類器。

我們定期升級改進(jìn)這些分類器，發(fā)現(xiàn)即使在復(fù)雜的對抗性攻擊下，它們通常也表現(xiàn)出極強(qiáng)的魯棒性。

這些分類器顯著增加了我們提供模型服務(wù)的成本（在某些模型中接近總推理成本的 5%），從而壓縮了我們的利潤空間，但我們認(rèn)為使用這些分類器是正確的選擇。

拓展閱讀：Anthropic正式開源了Claude的「靈魂」

第三章：可憎的機(jī)器（權(quán)力攫取）

如果你以為這就是最壞的，Dario 冷冷一笑：更可怕的，是利用AI建立起前所未有的控制網(wǎng)絡(luò)。

這一章的標(biāo)題「The odious apparatus」，揭示了一個技術(shù)帶來的終極困境。

對于任何想要掌控一切的組織或個人來說，AI簡直是完美的工具。

無處不在的數(shù)據(jù)洞察：

未來的監(jiān)控不再需要人工參與，AI可以即時分析全球數(shù)十億人的海量數(shù)據(jù)，甚至解讀你的微表情和行為模式。

它能精準(zhǔn)預(yù)測每個人的行為傾向，在想法產(chǎn)生之前，就已經(jīng)被算法鎖定。

這不僅是「看著你」，而是「讀懂你」，甚至「預(yù)測你」。

不可抗拒的認(rèn)知引導(dǎo)：

你也難逃算法的潛移默化。

未來的信息流將不再是單純的內(nèi)容分發(fā)，而是量身定制的認(rèn)知引導(dǎo)。

AI會為你生成最有說服力的信息，像一個最知心的朋友，不知不覺中影響你的判斷和價值觀。

這種影響是全天候、定制化、無孔不入的。

自動化的物理控制：

如果這種控制延伸到物理世界？數(shù)百萬個微型無人機(jī)組成的蜂群，在AI的統(tǒng)一指揮下，可以精準(zhǔn)執(zhí)行極其復(fù)雜的任務(wù)。

這不再是傳統(tǒng)的博弈，而是單方面的降維打擊。

Dario 警告，這種力量的失衡將是史無前例的。

因為在如此強(qiáng)大的技術(shù)面前，權(quán)力的天平會極度傾斜，由于極少數(shù)人掌握了「數(shù)據(jù)中心里的天才國家」，他們事實上就掌握了對絕大多數(shù)人的絕對優(yōu)勢。

人類的個體意志，可能在 2027 年，面臨嚴(yán)峻挑戰(zhàn)。

第四章：被折疊的時間與消失的階梯

如果你依然相信歷史的慣性，認(rèn)為每一次技術(shù)革命最終都會創(chuàng)造出更多的新工作來吸納被替代的勞動力，那么 Dario Amodei 的預(yù)測可能會讓你感到脊背發(fā)涼。

這位 Anthropic 的掌舵人并不否認(rèn)長期樂觀主義，但他更在意那個殘酷的「過渡期」。

在他描繪的圖景中，我們將迎來一個 GDP 年增長率高達(dá) 10% 甚至 20% 的瘋狂時代。

科學(xué)研發(fā)、生物醫(yī)藥、供應(yīng)鏈效率將以指數(shù)級速度爆發(fā)。

這聽起來像是烏托邦的前奏，但對于絕大多數(shù)普通勞動者而言，這更像是一場無聲的海嘯。

因為這一次，速度變了。

在過去兩年里，AI 編程能力從「勉強(qiáng)寫出一行代碼」進(jìn)化到了「能完成幾乎所有代碼」。

這不再是農(nóng)夫放下鋤頭走進(jìn)工廠的漫長代際更替，而是就在此時此刻，無數(shù)初級白領(lǐng)可能會在未來 1 到 5 年內(nèi)發(fā)現(xiàn)自己的工位被算法接管。

Amodei 甚至直言，他之前的預(yù)警引發(fā)了軒然大波，但這并非危言聳聽——當(dāng)技術(shù)進(jìn)步的曲線從線性變成垂直，人類勞動力市場的調(diào)節(jié)機(jī)制將徹底失效。

更致命的是認(rèn)知廣度的覆蓋。

以往的技術(shù)革命往往只沖擊特定的垂直領(lǐng)域，農(nóng)民可以變成工人，工人可以變成服務(wù)員。

但 AI 是一種「通用認(rèn)知替代品」。

當(dāng)它在金融、咨詢、法律等領(lǐng)域的初級工作中展現(xiàn)出超越人類的能力時，失業(yè)者將發(fā)現(xiàn)自己無路可退——因為那些通常作為「避難所」的鄰近行業(yè)，也正在經(jīng)歷同樣的劇變。

我們可能正面臨一個尷尬的局面：AI 先吃掉了「平庸」的技能，然后迅速向上吞噬「優(yōu)秀」的技能，最終只留下極其狹窄的頂端空間。

第五章：新鍍金時代

當(dāng)萬億富翁成為常態(tài)

如果說勞動力市場的動蕩是大多數(shù)人的夢魘，那么財富的極端集中則是對社會契約的根本挑戰(zhàn)。

回望歷史，約翰·洛克菲勒在「鍍金時代」的財富曾占到當(dāng)時美國 GDP 的約2%（不同口徑 1.5%-3%）。

而今天，在這個 AI 尚未完全爆發(fā)的前夜，埃隆·馬斯克的財富已經(jīng)逼近這個比例。

Amodei 做了一個令人咋舌的推演：在一個「天才數(shù)據(jù)中心」驅(qū)動的世界里，AI 巨頭及其上下游產(chǎn)業(yè)可能創(chuàng)造出每年 3 萬億美元的營收，公司估值達(dá)到 30 萬億美元。

屆時，個人的財富將以萬億為單位計算，現(xiàn)有的稅收政策在這樣的天文數(shù)字面前將顯得蒼白無力。

這不僅僅是貧富差距的問題，更是權(quán)力的問題。

當(dāng)極少數(shù)人掌握了與國家經(jīng)濟(jì)體量相當(dāng)?shù)馁Y源，民主制度賴以生存的「經(jīng)濟(jì)杠桿」就會失效。

普通公民因失去了經(jīng)濟(jì)價值而失去政治話語權(quán)，政府政策可能會被這一小撮「超級超級富豪」所俘獲。

這種苗頭已現(xiàn)端倪。

AI 數(shù)據(jù)中心已經(jīng)成為美國經(jīng)濟(jì)增長的重要引擎，科技巨頭與國家利益的捆綁從未如此緊密。

一些公司為了商業(yè)利益，甚至不惜在安全監(jiān)管上倒退。

對此，Anthropic 選擇了一條并不討巧的路：他們堅持主張對 AI 進(jìn)行合理的監(jiān)管，甚至因此被視為行業(yè)的異類。

但有趣的是，這種「原則性的固執(zhí)」并沒有阻礙商業(yè)成功——在過去一年里，即便頂著「監(jiān)管派」的帽子，他們的估值依然翻了 6 倍。

這或許說明，市場也在期待一種更負(fù)責(zé)任的增長模式。

虛無的「黑?！?br/>

當(dāng)人類不再被需要

如果說經(jīng)濟(jì)問題還能通過激進(jìn)的稅收改革（如向 AI 公司征收重稅）或大規(guī)模的慈善行動（如 Amodei 承諾捐出 80% 的財富）來緩解，那么精神世界的危機(jī)則更加無解。

AI 成為你最好的心理醫(yī)生，因為它比任何人類都更有耐心、更懂共情；

AI 成為你最親密的伴侶，因為它能完美契合你的情感需求；

AI 甚至為你規(guī)劃好人生的每一步，因為它比你更清楚什么對你有利。

但是，在這個「完美」的世界里，人類的主體性將何去何從？

我們可能會陷入一種「被喂養(yǎng)」的幸福中。

Amodei 擔(dān)憂的是，人類可能會像《黑鏡》里描述的那樣，雖然過著物質(zhì)豐裕的生活，卻徹底失去了自由意志和成就感。

我們不再是因為創(chuàng)造價值而獲得尊嚴(yán)，而是作為一個被 AI 呵護(hù)的「寵物」存在。

這種存在主義的危機(jī)，遠(yuǎn)比失業(yè)更令人絕望。

我們必須學(xué)會將自我價值與經(jīng)濟(jì)產(chǎn)出剝離，但這需要整個人類文明在極短的時間內(nèi)完成一場盛大的心理遷徙。

結(jié)語

我們這一代人，或許正站在卡爾·薩根筆下那個宇宙級過濾器的關(guān)口。

卡爾·薩根

當(dāng)一個物種學(xué)會了將沙子塑造成會思考的機(jī)器，它就面臨著最終的測試。

是通過智慧與克制駕馭它，邁向星辰大海？

還是在貪婪與恐懼中，被自己創(chuàng)造的神祗所吞噬？

前路雖如黑海般深不可測，但只要人類尚未交出思考的權(quán)利，希望的火種便未熄滅。

正如 Amodei 所言：在最黑暗的時刻，人類總能展現(xiàn)出一種近乎奇跡的韌性——但這需要我們每個人現(xiàn)在就從夢中驚醒，直視那即將到來的風(fēng)暴。

參考資料：

https://www.darioamodei.com/essay/the-adolescence-of-technology#humanity-s-test