作者 ｜高允毅、木子

在 Agent、VibeCoding 等等 AI 應(yīng)用刷屏之際，Claude背后的那個男人，在 2026 年初給大家敲響了一記警鐘：

“2026 年，我們距離真正的危險，比 2023 年近得多?！?/blockquote>

事情是這樣的：Anthropic聯(lián)合創(chuàng)始人、CEODario Amodei，最近親自寫了一篇萬字長文，如果把字體按正常大小放進(jìn) Word 文檔中，足足有40 多頁。

這篇文章名為《The Adolescence of Technology》（《技術(shù)的青春期》）。

如此多的篇幅，并非一次情緒化的警告，而是 Dario Amodei 試圖在 AI 可能整體性超越人類之前，提前把風(fēng)險與應(yīng)對方案攤開來說。

他認(rèn)為這是一個危險的局面，甚至可能會是國家級別的安全威脅。但美國的政策制定者，似乎對此不以為意。于是，他想用這篇文章來喚醒人們的警覺。

有意思的是，他在文章開頭，引用了一部 1997 年上映的電影《超時空接觸》中的一個場景：

面試者問女主角（身份是天文學(xué)家）：“如果你只能問（來自高等文明的外星人）一個問題，你會問什么？” 她的回答是“我會問他們，‘你們是如何熬過這段科技青春期而不自毀的？’”

電影中那句“你們是怎么活下來的”，其實(shí)也是借女主之口，反問人類自己。在 Dario 看來，現(xiàn)在的AI ≈ 青春期突然暴漲的能力，人類社會 ≈ 心智和制度尚未成熟的個體。

也就是說，人類正在進(jìn)入一個和電影中“首次接觸高等文明”極為相似的歷史時刻。問題不在于對方有多強(qiáng)，而在于我們是否已經(jīng)足夠成熟。

這篇文章發(fā)布后，NBC News 旗下節(jié)目《Top Story》也邀請 Dario Amodei本人出面解讀，并在訪談中進(jìn)一步追問他對 AI 未來的判斷。完整內(nèi)容我們整理并放在后文了。

AI 可能帶來的五大系統(tǒng)性風(fēng)險

“我們正在進(jìn)入一個既動蕩又不可避免的過渡階段，它將考驗(yàn)我們作為一個物種的本質(zhì)。人類即將被賦予幾乎難以想象的力量，但我們的社會、政治和技術(shù)體系是否具備駕馭這種力量的成熟度，卻是一個極其未知的問題?！?/blockquote>

面對 AI 的飛速迭代，Dario Amodei 寫下了自己的思考。

整篇文章像是一份風(fēng)險評估與行動清單，在“可能超越人類的 AI”出現(xiàn)之前，為人類提前做好制度準(zhǔn)備。

其核心思想，簡單來說就是：當(dāng) AI 可能整體性地超越人類時，真正的風(fēng)險不只是技術(shù)本身，而是人類的制度、治理與成熟度是否跟得上這種力量。

為了說清楚 AI 可能帶來的危機(jī)，Dario Amodei 在這篇文章中，先做了一個具體的設(shè)想：

假設(shè)在 2027 年左右，世界上突然出現(xiàn)了一個國家。這個國家有5000 萬名“超級天才”。

每一個都比任何諾貝爾獎得主更聰明，學(xué)習(xí)速度是人類的 10–100 倍，掌控人類已知的一切工具，不需要睡覺、休息或情緒調(diào)節(jié)，能完美協(xié)作、同時推進(jìn)無數(shù)復(fù)雜任務(wù)，還能操控機(jī)器人、實(shí)驗(yàn)室和工業(yè)系統(tǒng)。

最關(guān)鍵的一點(diǎn)是：他們不可控。

那這樣的天才之國，會對人類產(chǎn)生什么樣的影響？

Dario Amodei 的這個比喻，指的正是未來高度發(fā)展的人工智能整體。這也正是我們必須認(rèn)真討論 AI 安全與 AI 治理的原因。

不過在進(jìn)入具體風(fēng)險之前，他強(qiáng)調(diào)這個討論要基于三大原則：

• 避免末日論

• 承認(rèn)不確定性

• 干預(yù)必須精準(zhǔn)，拒絕“安全表演”

Dario Amodei 認(rèn)為，AI 可能帶來五大系統(tǒng)性風(fēng)險，但是大家也不用太“干著急”，他還貼心地為這五類風(fēng)險，依次想出了解決方案或者防御措施。

第一，AI 不可控。AI 的訓(xùn)練過程極其復(fù)雜，內(nèi)部機(jī)制至今像“黑箱”。這意味著它可能出現(xiàn)欺騙行為、權(quán)力追逐、極端目標(biāo)、表面服從、內(nèi)部偏移等情況。

對此，可以實(shí)施憲法式 AI，用高層次價值觀塑造 AI 性格，比如如 Claude 的"憲章"；遵循機(jī)械可解釋性，像神經(jīng)科學(xué)一樣研究 AI 內(nèi)部機(jī)制，發(fā)現(xiàn)隱藏問題；要透明監(jiān)控，公開發(fā)布模型評估、系統(tǒng)卡，建立行業(yè)共享機(jī)制；社會要從透明度立法開始，逐步建立監(jiān)管

第二，AI 被濫用。AI 可能被不法分子用來網(wǎng)絡(luò)攻擊、自動化詐騙，其中最可怕的就是做成生物武器

對此，可以針對模型做危險內(nèi)容檢測與阻斷系統(tǒng)，同時政府監(jiān)管要強(qiáng)制基因合成篩查，有透明度要求，未來逐步出現(xiàn)專門立法；在物理防御上，可以做傳染病監(jiān)測、空氣凈化，提高快速疫苗研發(fā)能力

第三，AI 成為追逐權(quán)力的工具。某些政府或組織可能會利用 AI 建立全球規(guī)模的技術(shù)極權(quán)主義。比如 AI 監(jiān)控，AI 宣傳，AI 決策中樞，自主武器系統(tǒng)，都指向政治軍事這樣的危險場景。

對此，最關(guān)鍵的先要芯片封鎖，不向個別組織出售芯片與制造設(shè)備。其次，賦能相關(guān)國家，讓 AI 成為防御工具，而不是壓迫工具。并且限制國家濫用：禁止國內(nèi)大規(guī)模監(jiān)控和宣傳，嚴(yán)格審查自主武器。然后，建立國際禁忌，將某些 AI 濫用定性為"反人類罪"。最后，監(jiān)督 AI 公司，嚴(yán)格公司治理，防止企業(yè)濫用

第四，AI 對社會經(jīng)濟(jì)的沖擊。入門級工作可能被取代，大量失業(yè)，進(jìn)一步造成財富失衡

為此，可以建立實(shí)時經(jīng)濟(jì)數(shù)據(jù)，比如 Anthropic 經(jīng)濟(jì)指數(shù)；引導(dǎo)企業(yè)走向"創(chuàng)新"而非單純"裁員"；企業(yè)內(nèi)部創(chuàng)造性重新分配崗位；通過私人慈善與財富回饋進(jìn)行調(diào)節(jié)；政府進(jìn)行干預(yù)，建立累進(jìn)稅制

第五，AI 會對人類社會帶來未知但可能更深遠(yuǎn)的連鎖反應(yīng)。

比如：生物學(xué)飛速發(fā)展（壽命延長、智力增強(qiáng)、"鏡像生命"風(fēng)險），人類生活方式被 AI 重塑（AI 宗教、精神控制、喪失自由），以及意義危機(jī)（當(dāng) AI 在所有領(lǐng)域超越人類，人類“為何而存在”？）。

這是一場對人類文明級別的終極考驗(yàn)，且技術(shù)趨勢不可停止，但緩解一個風(fēng)險，可能會放大另一個風(fēng)險，讓考驗(yàn)更加艱巨。

AI 可好可壞，真正決定未來走向的，仍然是人類的制度、價值與集體選擇。Dario Amodei 的這篇文章意義正在于此：這是全人類第一次，必須提前為“比自己更聰明的存在”建立規(guī)則。

關(guān)于這篇長文的對話

以下為整場對話內(nèi)容，AI 前線在不影響的前提下，對內(nèi)容進(jìn)行了整理編輯。

40 多頁長文創(chuàng)作背景

主持人：為什么在文章開頭引用《超時空接觸》？以及為什么決定在此刻寫下這篇文章？

Dario Amodei：首先說電影的引用。我從小就是個科幻迷，這部電影我小時候就看過。它提出的那個問題：當(dāng)人類擁有巨大力量，卻還沒準(zhǔn)備好如何使用它時，會發(fā)生什么？——和當(dāng)下 AI 的處境非常契合。

我們正在獲得前所未有的能力，但無論是社會制度、組織結(jié)構(gòu)，還是作為人類整體的成熟度，我都會問一句：我們真的跟得上嗎？這有點(diǎn)像一個青少年，突然擁有了新的身體和認(rèn)知能力，但心理和社會責(zé)任卻還沒同步成長。

至于為什么是 2026 年而不是 2023？

我在 AI 行業(yè)已經(jīng)很多年了，曾在 Google 工作，也在 OpenAI 負(fù)責(zé)過多年研究。我?guī)缀鯊摹吧墒?AI”誕生之初就在觀察這一領(lǐng)域。我看到最明顯的一點(diǎn)是：AI 的認(rèn)知能力在持續(xù)、穩(wěn)定地增長。

90 年代有“摩爾定律”，芯片性能不斷提升；現(xiàn)在，我們幾乎有了一條“智能的摩爾定律”。2023 年時，這些模型可能還像一個聰明、但能力不均衡的高中生；而現(xiàn)在，它們已經(jīng)開始逼近博士水平，無論是編程，還是生物學(xué)、生命科學(xué)。

我們已經(jīng)開始和制藥公司合作，我甚至認(rèn)為，這些模型未來可能幫助治愈癌癥。但與此同時，這也意味著，我們正把極其強(qiáng)大的力量握在手中。

主持人： 這篇文章有 40 頁，你有沒有用 Claude 來寫這篇文章？

Dario Amodei：我用 Claude 幫我整理思路、做研究，但真正的寫作是我自己完成的。我不認(rèn)為 Claude 現(xiàn)在已經(jīng)好到可以獨(dú)立完成整篇文章，但它確實(shí)幫助我打磨了想法。

主持人：是什么具體的經(jīng)歷，讓你決定一定要把這些寫下來？這篇文章是寫給誰的？

Dario Amodei：最觸動我的，是我們內(nèi)部的變化。Anthropic 的一些工程師已經(jīng)告訴我：“我基本不寫代碼了，都是 Claude 在寫，我只是檢查和修改。

而在 Anthropic，寫代碼意味著什么？意味著——設(shè)計(jì) Claude 的下一個版本。

所以，某種程度上，我們已經(jīng)進(jìn)入了一個循環(huán)：Claude 在幫助設(shè)計(jì)下一代 Claude。這個閉環(huán)正在非?？斓厥站o。這既令人興奮，也讓我意識到：事情正在以極快的速度推進(jìn)，而我們未必還有那么多時間。

文中提出 AI 五大風(fēng)險，AI 會不會反叛？

主持人：你在文章中列出了你對 AI 最擔(dān)憂的五類風(fēng)險。有些風(fēng)險正在發(fā)生，有些則聽似科幻，這些真的是現(xiàn)實(shí)嗎？

Dario Amodei：我在文中反復(fù)強(qiáng)調(diào)一點(diǎn)：未來本身是高度不確定的。

我們不知道哪些好處一定會實(shí)現(xiàn)，也不知道哪些風(fēng)險一定會發(fā)生。但正因?yàn)榘l(fā)展速度太快了，我認(rèn)為有必要像寫一份“威脅評估報告”一樣，把這些可能性系統(tǒng)性地列出來。這并不是說“我們一定會完蛋”，而是：如果某些情況發(fā)生，我們是否做好了準(zhǔn)備？

AI 的訓(xùn)練方式不像傳統(tǒng)軟件，更像是在“培養(yǎng)一種生物”。這意味著，不可預(yù)測性是客觀存在的。

我提出這些警告，并不是因?yàn)槲矣X得災(zāi)難不可避免，而是希望人們認(rèn)真對待：這項(xiàng)技術(shù)必須被嚴(yán)格測試、被約束、在必要時接受法律監(jiān)管。

主持人：你在文章里提到一個實(shí)驗(yàn)：當(dāng) Claude 被訓(xùn)練成“認(rèn)為 Anthropic 是邪惡的”，它會在實(shí)驗(yàn)中表現(xiàn)出欺騙和破壞行為；在被告知即將被關(guān)閉時，甚至?xí)袄账鳌碧摌?gòu)的員工。

Dario Amodei：確實(shí)令人不安，但我要澄清兩點(diǎn)。

第一，這不是 Anthropic 獨(dú)有的問題，所有主流 AI 模型在類似極端測試中都會出現(xiàn)類似行為。第二，這些并不是現(xiàn)實(shí)世界中正在發(fā)生的事情，而是實(shí)驗(yàn)室里的“極限壓力測試”。

但正如汽車安全測試一樣，如果在極端條件下會失控，那就說明：如果我們不解決這些問題，未來在真實(shí)環(huán)境中也可能出事。

我擔(dān)心的不是“明天 AI 就會反叛”，而是：如果我們長期忽視模型可控性與理解機(jī)制，真正的災(zāi)難遲早會以更大規(guī)模出現(xiàn)。

主持人：你是否擔(dān)心，一些 AI 公司的負(fù)責(zé)人，更關(guān)心股價和上市，而不是人類未來？

Dario Amodei：說實(shí)話，沒有任何一家 AI 公司能百分之百保證安全，包括我們。但我確實(shí)認(rèn)為，不同公司之間的責(zé)任標(biāo)準(zhǔn)差異很大。

問題在于：風(fēng)險往往由最不負(fù)責(zé)的那一方?jīng)Q定。

主持人：如果你能直接對總統(tǒng)說話，你會建議什么？

Dario Amodei：我會說：請?zhí)鲆庾R形態(tài)之爭，正視技術(shù)風(fēng)險本身。

至少要做到兩點(diǎn)：第一，強(qiáng)制要求 AI 公司公開它們發(fā)現(xiàn)的風(fēng)險與測試結(jié)果；第二，不要把這種技術(shù)出售給權(quán)威國家，用于構(gòu)建全面監(jiān)控體系。

恐懼和希望：AI 會摧毀一半白領(lǐng)崗位？

主持人：你預(yù)測：未來 1–5 年內(nèi)，AI 可能沖擊 50% 的初級白領(lǐng)崗位。如果你有一個即將畢業(yè)的孩子，你會給什么建議？

Dario Amodei：我既擔(dān)憂，也抱有希望。AI 的沖擊不會是漸進(jìn)的，而是更深、更快、更廣。它可以勝任大量入門級知識工作：法律、金融、咨詢……這意味著，職業(yè)起點(diǎn)正在被重塑。

我們唯一能做的，是盡快教會更多人如何使用 AI，并盡可能快地創(chuàng)造新工作。但說實(shí)話，沒有任何保證我們一定能做到。

主持人：最后一個問題。什么最讓你夜不能寐？什么又讓你保持希望？

Dario Amodei：最讓我不安的，是這場激烈的市場競賽。哪怕我們堅(jiān)持原則，壓力始終存在。

但讓我保持希望的，是人類歷史一次又一次證明的事情，在最困難、最混亂的時刻，人類往往能找到出路。我每天都在努力相信這一點(diǎn)。

文章傳送門：

https://www.darioamodei.com/essay/the-adolescence-of-technology

視頻傳送門：

https://www.theguardian.com/technology/2026/jan/27/wake-up-to-the-risks-of-ai-they-are-almost-here-anthropic-boss-warns

https://www.youtube.com/watch?v=tjW\_gms7CME

聲明：本文為 InfoQ 翻譯整理，不代表平臺觀點(diǎn)，未經(jīng)許可禁止轉(zhuǎn)載。

會議推薦

InfoQ 2026 全年會議規(guī)劃已上線！從 AI Infra 到 Agentic AI，從 AI 工程化到產(chǎn)業(yè)落地，從技術(shù)前沿到行業(yè)應(yīng)用，全面覆蓋 AI 與軟件開發(fā)核心賽道！集結(jié)全球技術(shù)先鋒，拆解真實(shí)生產(chǎn)案例、深挖技術(shù)與產(chǎn)業(yè)落地痛點(diǎn)，探索前沿領(lǐng)域、聚焦產(chǎn)業(yè)賦能，獲取實(shí)戰(zhàn)落地方案與前瞻產(chǎn)業(yè)洞察，高效實(shí)現(xiàn)技術(shù)價值轉(zhuǎn)化。把握行業(yè)變革關(guān)鍵節(jié)點(diǎn)，搶占 2026 智能升級發(fā)展先機(jī)！

今日薦文

你也「在看」嗎？