論數(shù)學(xué)超級(jí)智能

On mathematical superintelligence

https://kylersiegel.xyz/essay_intro_only.pdf

摘要

在本文中，我們考慮了人工智能具備超人類(lèi)數(shù)學(xué)推理能力的近未來(lái)可能性，并嘗試詳細(xì)闡述其對(duì)數(shù)學(xué)研究事業(yè)的一些影響。我們發(fā)現(xiàn)，將我們所設(shè)想的未來(lái)劃分為三個(gè)不同的"時(shí)代"是有用的。在時(shí)代I（可以說(shuō)已經(jīng)在進(jìn)行中），人工智能成為人類(lèi)數(shù)學(xué)家的強(qiáng)大生產(chǎn)力助推器，有可能迎來(lái)一個(gè)發(fā)現(xiàn)和創(chuàng)造性實(shí)現(xiàn)的新黃金時(shí)代，盡管有許多陷阱必須小心規(guī)避。在時(shí)代II，人工智能開(kāi)始逐步承擔(dān)越來(lái)越多的技術(shù)性繁重工作，而人類(lèi)數(shù)學(xué)家則從事高級(jí)提示工程（或"氛圍數(shù)學(xué)"），人機(jī)結(jié)合的系統(tǒng)總體上比單獨(dú)的人類(lèi)或人工智能更有效。在時(shí)代III，人工智能達(dá)到一種主導(dǎo)地位，使得人類(lèi)數(shù)學(xué)家無(wú)法再對(duì)數(shù)學(xué)發(fā)現(xiàn)過(guò)程做出實(shí)質(zhì)性貢獻(xiàn)，視角轉(zhuǎn)而朝著欣賞、批判、個(gè)人充實(shí)等方向轉(zhuǎn)變。我們以詳細(xì)說(shuō)明在當(dāng)前時(shí)刻進(jìn)行這一思想實(shí)驗(yàn)的背景和動(dòng)機(jī)開(kāi)始本文，并以一些關(guān)于數(shù)學(xué)家如何積極影響其事業(yè)未來(lái)的反思作為結(jié)尾。為了保持范圍可控且集中，我們選擇避免（盡管這有些不自然）討論超人類(lèi)人工智能更廣泛的社會(huì)或存在性影響。

1 引言

1.1 序曲

我們從2014年11月在斯坦福大學(xué)舉行的2015年突破獎(jiǎng)小組討論的一段簡(jiǎn)短摘錄開(kāi)始，這次討論在杰出獲獎(jiǎng)?wù)進(jìn)axim Kontsevich、Yuri Milner、陶哲軒、Richard Taylor和主持人Yuri Milnor之間展開(kāi)。

2015年突破獎(jiǎng)小組討論摘錄（高度意譯）：

Yuri Milner：你們中有人能想象計(jì)算機(jī)在數(shù)學(xué)上超越人類(lèi)嗎，就像它們?cè)谙笃迳献龅降哪菢?，在一百年或者也許一千年后？

Terry Tao：嗯，計(jì)算機(jī)可以像一個(gè)非常強(qiáng)大的搜索引擎那樣運(yùn)作，但人類(lèi)仍將主導(dǎo)全局，我相當(dāng)確定。

Maxim Kontsevich：實(shí)際上，我認(rèn)為創(chuàng)造人工智能并沒(méi)有那么難。我覺(jué)得我們很快就會(huì)擁有它（小組發(fā)出緊張的笑聲）。

Yuri Milner：你在這里有點(diǎn)唱反調(diào)，說(shuō)它會(huì)這么快發(fā)生。是什么讓你如此樂(lè)觀？

Maxim Kontsevich：實(shí)際上是悲觀（更多緊張的笑聲）。我自己稍微思考過(guò)這個(gè)問(wèn)題，我沒(méi)有看到任何根本性的困難。

Yuri Milner：那你為什么不直接研究那個(gè)呢？

Maxim Kontsevich：我認(rèn)為那是不道德的（更多緊張的笑聲）。

Richard Taylor：但是計(jì)算機(jī)下象棋的方式不就是一個(gè)大規(guī)模的組合檢查嗎？如果看到計(jì)算機(jī)在我們有生之年贏得菲爾茲獎(jiǎng)，我會(huì)非常驚訝。

Terry Tao：嗯，我認(rèn)為計(jì)算機(jī)可能僅僅通過(guò)暴力搜索就能發(fā)現(xiàn)數(shù)學(xué)兩個(gè)領(lǐng)域之間的聯(lián)系，然后使用計(jì)算機(jī)的人實(shí)際上可以將其充實(shí)完善，也許還能獲得獎(jiǎng)牌。

Yuri Milner：那么雅各布，你對(duì)馬克西姆所說(shuō)的感到害怕嗎？

Jacob Lurie：我不太擔(dān)心……

1.2 本文是關(guān)于什么的？

簡(jiǎn)而言之，我們?cè)诖说哪繕?biāo)是記錄一些關(guān)于數(shù)學(xué)研究未來(lái)的想法和推測(cè)，鑒于人工智能最近迅速展開(kāi)的進(jìn)展。

1.3 "數(shù)學(xué)研究"是什么意思？

要準(zhǔn)確表述什么是數(shù)學(xué)研究，甚至向沒(méi)有親身參與過(guò)的人傳達(dá)它在實(shí)踐中的樣子，可能有點(diǎn)棘手。非常粗略地說(shuō)，我們所想的僅僅是那些通常由"研究數(shù)學(xué)家"進(jìn)行的活動(dòng)，他們主要存在于世界各地的大學(xué)中，擔(dān)任教授、博士后和研究生（有時(shí)是本科生或更年輕的學(xué)生），并花費(fèi)大量時(shí)間嘗試做以下事情：

? 證明新定理，或?yàn)榕f定理提供新的見(jiàn)解 ? 發(fā)現(xiàn)新的引人注目的數(shù)學(xué)對(duì)象（例如定義、公式、算法等） ? 在重要問(wèn)題上取得進(jìn)展（即使是適度的），或開(kāi)辟新的有前景的方向 ? 通過(guò)各種渠道傳播這些工作的成果（例如期刊文章和預(yù)印本服務(wù)器、會(huì)議和研討會(huì)報(bào)告、教科書(shū)、博客文章等）。

我們不會(huì)試圖在這里給出更精確的定義，部分是因?yàn)檫@會(huì)讓我們離題太遠(yuǎn)，值得在其他地方進(jìn)行更深思熟慮的處理，主要是因?yàn)闉榱藗鬟_(dá)我們的主要觀點(diǎn)，這并不需要。事實(shí)上，我們預(yù)計(jì)這里涉及的許多問(wèn)題在很大程度上與其他科學(xué)研究領(lǐng)域以及更廣泛的人類(lèi)體驗(yàn)相關(guān)，但為了具體性和保持范圍可控（并且更接近作者的經(jīng)驗(yàn)領(lǐng)域），我們將嘗試主要維持這一較窄的焦點(diǎn)。

1.4 數(shù)學(xué)研究是否有其特殊之處？

如上所述，本文所探討的諸多問(wèn)題具有相當(dāng)?shù)膹V泛性，很可能適用于在快速進(jìn)步的人工智能影響下的各類(lèi)人類(lèi)活動(dòng)。就此而言，我們鼓勵(lì)讀者將本文視為一種混合型的案例研究／思想實(shí)驗(yàn)。話雖如此，仍值得思考：就人工智能而言，數(shù)學(xué)研究是否存在某些獨(dú)特方面，使其區(qū)別于其他活動(dòng)？以下是數(shù)學(xué)研究的幾個(gè)似乎值得強(qiáng)調(diào)的突出特征：

(1) 嚴(yán)謹(jǐn)性（rigor）：具備達(dá)到極高嚴(yán)謹(jǐn)程度的潛力，既包括傳統(tǒng)數(shù)學(xué)意義上的嚴(yán)謹(jǐn)，也包括現(xiàn)代意義上的形式化驗(yàn)證（參見(jiàn)§2.1g）；

(2) 低門(mén)檻（entry）：原則上無(wú)需依賴任何強(qiáng)大的物理、財(cái)務(wù)或社會(huì)資源（例如硬件或?qū)嶒?yàn)室設(shè)備、專(zhuān)有數(shù)據(jù)集等）；

(3) 安全性（safety）：不存在明顯的直接安全風(fēng)險(xiǎn)（例如傷害性事故、實(shí)驗(yàn)室泄漏、環(huán)境破壞等）；

(4) 純粹性（purity）：在一種智識(shí)上潔凈的環(huán)境中進(jìn)行，免受紛繁復(fù)雜的現(xiàn)實(shí)世界干擾（例如社會(huì)動(dòng)態(tài)、人類(lèi)心理、不可預(yù)測(cè)的政治局勢(shì)、天氣模式等）。

以下我們對(duì)這些特征的意義作幾點(diǎn)初步評(píng)論。

關(guān)于(1)，人們自然會(huì)思考：嚴(yán)謹(jǐn)性是否可能成為緩解當(dāng)代隨機(jī)性人工智能系統(tǒng)（如大型語(yǔ)言模型）在可靠性與可信度方面棘手問(wèn)題的有用工具。

關(guān)于(2)，需補(bǔ)充說(shuō)明的是，這種看似較低的進(jìn)入門(mén)檻或許僅在表層成立，因?yàn)槔缫粋€(gè)人所受教育的環(huán)境通常被認(rèn)為對(duì)成功至關(guān)重要，更不用說(shuō)能夠?qū)r(shí)間與精力專(zhuān)注于抽象研究所需的各種財(cái)務(wù)與社會(huì)前提條件。此外，如果計(jì)算能力及其他資源成為推動(dòng)數(shù)學(xué)進(jìn)步的核心因素（參見(jiàn)§2.2i），情況可能會(huì)發(fā)生劇變。

關(guān)于(3)，我們注意到，表面上缺乏安全顧慮可能變得相當(dāng)重要——倘若這些顧慮在其他領(lǐng)域成為主要摩擦來(lái)源，并伴隨各種相關(guān)的下游效應(yīng)，例如官僚主義的繁文縟節(jié)。需說(shuō)明的是，我們?cè)诖嘶乇車(chē)@先進(jìn)人工智能發(fā)展所產(chǎn)生的任何大規(guī)模一般性安全問(wèn)題，因?yàn)檫@些已超出本文范圍（參見(jiàn)§1.9）。

最后，關(guān)于(4)，我們指出，數(shù)學(xué)研究對(duì)當(dāng)前人工智能開(kāi)發(fā)者而言可能尤其具有吸引力，部分原因在于它天然提供了高質(zhì)量的訓(xùn)練數(shù)據(jù)，以及清晰客觀的正確性標(biāo)準(zhǔn)（盡管在更長(zhǎng)的時(shí)間尺度上衡量進(jìn)展可能要主觀或模糊得多）。

1.5 為何此時(shí)撰寫(xiě)這一主題？

撰寫(xiě)本文時(shí)的主要相關(guān)背景是：大型語(yǔ)言模型（如 ChatGPT、Gemini、Claude、DeepSeek 等）的數(shù)學(xué)能力在過(guò)去幾年中迅速提升，人們對(duì)這些系統(tǒng)及其能力的認(rèn)知亦隨之顯著增強(qiáng)。事實(shí)上，在 2022 年底 ChatGPT 發(fā)布之前，極少有數(shù)學(xué)家在數(shù)學(xué)研究的語(yǔ)境下關(guān)注、感興趣或擔(dān)憂人工智能。如今，不到三年時(shí)間，大多數(shù)數(shù)學(xué)家都已或多或少接觸過(guò)這些系統(tǒng)，并開(kāi)始更認(rèn)真地對(duì)待它們的數(shù)學(xué)能力。盡管如此，關(guān)于這些系統(tǒng)究竟已取得多大進(jìn)展、在何種程度上展現(xiàn)出“真正的理解”、以及未來(lái)幾年可能進(jìn)一步發(fā)展到何種地步等問(wèn)題，學(xué)界觀點(diǎn)仍存在顯著的分歧。

在探討這種觀點(diǎn)分歧之前，讓我們通過(guò)列舉幾項(xiàng)與數(shù)學(xué)研究尤為相關(guān)的新近發(fā)展來(lái)進(jìn)一步鋪墊背景：

? 推理型語(yǔ)言模型的問(wèn)世，始于 OpenAI 于 2024 年推出的 o1 模型，隨后 OpenAI 的 o3、DeepSeek 的 R1 等模型相繼推出。這些模型在推理階段通過(guò)調(diào)用額外的時(shí)間與計(jì)算資源進(jìn)行“思考”，專(zhuān)為解決數(shù)學(xué)問(wèn)題等多步驟推理任務(wù)而設(shè)計(jì)；

? 至少有兩個(gè)分別由 Google DeepMind 與 OpenAI 開(kāi)發(fā)的 AI 模型，在 2025 年國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽（IMO）中取得了金牌分?jǐn)?shù)（參見(jiàn) [CS25]），均解答出六道題中的五道，成績(jī)超過(guò)除 26 名人類(lèi)高中生參賽者之外的所有選手（注：Google 的“Deep Think”數(shù)學(xué)模型目前已面向每月 250 美元的 Google AI Ultra 計(jì)劃訂閱用戶開(kāi)放）；

? 高階數(shù)學(xué) AI 基準(zhǔn)測(cè)試的推出，例如 [Gla+24; Stu25; Sch+25]。以 FrontierMath Tier IV 為例，該基準(zhǔn)包含由專(zhuān)業(yè)數(shù)學(xué)家在其專(zhuān)長(zhǎng)領(lǐng)域撰寫(xiě)的、涉及研究級(jí)概念的極具挑戰(zhàn)性的問(wèn)題；截至 2025 年 10 月，48 道題中已有 9 道曾被至少一個(gè) AI 模型解答（另見(jiàn) [Aso25]）；

? 關(guān)于數(shù)學(xué)研究未來(lái)的討論持續(xù)升溫，形式包括文章（如 [Ven; He24; Har24; Cep; Avi25; Sev24; Hen25]）與研討會(huì)（如 [UCI25; Lor25; KIAS25; Sim25; ICML25; Aug25; JMM25]），更不用說(shuō)大量錄制講座、社交媒體帖子等；

? 近期預(yù)印本逐漸涌現(xiàn)，例如 [Van25; DMN25; AM25; JR25; IX25]，其作者將部分或全部核心思想歸功于 ChatGPT 或其他 AI 模型（或與之的交互）；

? Google DeepMind 推出 AlphaEvolve [Nov+25; Geo+25]（目前已出現(xiàn)若干開(kāi)源衍生版本，如 [Sha25; LIC25]），該系統(tǒng)將進(jìn)化算法與大型語(yǔ)言模型相結(jié)合，在算法空間中進(jìn)行優(yōu)化，在一系列構(gòu)造性數(shù)學(xué)問(wèn)題上取得了新的最先進(jìn)成果（例如 4×4 矩陣乘法、圓堆積問(wèn)題、“接吻數(shù)”問(wèn)題等）；

? Lean 證明助手及其數(shù)學(xué)庫(kù) mathlib 日益普及，同時(shí)存在多種持續(xù)進(jìn)行的嘗試，旨在將自然語(yǔ)言證明自動(dòng)形式化為 Lean 代碼，或?qū)?Lean 證明“去形式化”還原為自然語(yǔ)言（參見(jiàn) [Aze+23; Yan+23; Pol+22; Dee24]）；

? 越來(lái)越多的研究者運(yùn)用人工智能技術(shù)在純數(shù)學(xué)中生成新猜想或構(gòu)造（參見(jiàn) [He+25; Dav+21; Cha+24; ACH24; Vel+24]）；

? DeepMind 近期宣布與五家頂尖數(shù)學(xué)研究機(jī)構(gòu)建立合作伙伴關(guān)系，以加速人工智能在數(shù)學(xué)研究中的發(fā)展 [KR25]，同時(shí)已知或傳聞中正有持續(xù)努力試圖攻克納維–斯托克斯方程等重大數(shù)學(xué)難題（參見(jiàn) [Ans25]）。

對(duì)于密切關(guān)注這些動(dòng)態(tài)的人而言，上述發(fā)展立即引發(fā)了一系列緊迫問(wèn)題，包括：

? 人工智能在數(shù)學(xué)研究中的現(xiàn)狀究竟如何？它仍只是一種精巧的“客廳戲法”，抑或我們正見(jiàn)證一場(chǎng)真正變革的開(kāi)端？面對(duì)層出不窮、快速迭代的各類(lèi)模型，人們應(yīng)如何追蹤并區(qū)分炒作與現(xiàn)實(shí)？數(shù)學(xué)家在多大程度上已將這些工具整合進(jìn)其工作流程？

? 著眼于最近的里程碑或可合理推斷的近期未來(lái)，它們對(duì)今后數(shù)年的數(shù)學(xué)研究有何意涵？塵埃落定之后，研究圖景將發(fā)生劇變，抑或除增添若干精巧工具外基本維持原狀？是否仍有可能選擇退出，繼續(xù)從事數(shù)年前那種“老派”的數(shù)學(xué)研究？若該領(lǐng)域真被徹底革新，結(jié)果將是利大于弊，還是弊大于利？

? 我們能否對(duì)未來(lái)一至三年作出明確預(yù)測(cè)？AI 系統(tǒng)的數(shù)學(xué)能力是否會(huì)遭遇瓶頸并面臨收益遞減，抑或我們應(yīng)為更極端的發(fā)展做好準(zhǔn)備？我們是否有望在不太遙遠(yuǎn)的未來(lái)見(jiàn)證“數(shù)學(xué)超智能”的出現(xiàn)？若然，那將引領(lǐng)我們走向何方？

? 為何對(duì)于上述問(wèn)題的答案，學(xué)界似乎鮮有共識(shí)？

1.6 什么是“數(shù)學(xué)超智能”？

在本文中，我們使用“數(shù)學(xué)（人工）超智能”（mathematical (artificial) superintelligence, MASI）這一術(shù)語(yǔ)，指代（某種意義上模糊地）任何能夠以實(shí)質(zhì)性且明確優(yōu)于人類(lèi)的方式執(zhí)行數(shù)學(xué)（包括研究）所有方面的機(jī)器。需注意，我們不會(huì)在人類(lèi)水平智能與超人類(lèi)水平智能之間做過(guò)多區(qū)分，因?yàn)橐坏┤斯ぶ悄苓_(dá)到人類(lèi)水平，很可能在不久后通過(guò)（若無(wú)其他因素干擾）處理能力的常規(guī)漸進(jìn)式提升而超越人類(lèi)。然而，如后文將強(qiáng)調(diào)的，以下兩點(diǎn)存在重大且關(guān)鍵的區(qū)別：

(i) 無(wú)AI輔助時(shí)優(yōu)于人類(lèi)數(shù)學(xué)家的人工智能；(ii) 即使在AI輔助下仍達(dá)到人類(lèi)數(shù)學(xué)家水平的人工智能。

這兩者可分別稱為類(lèi)型(i) 和類(lèi)型(ii)數(shù)學(xué)超智能，并可概括為：

(i) 人類(lèi) < 無(wú)AI輔助的人工智能 < 人類(lèi)+AI(ii) 人類(lèi) < 人工智能 = 人類(lèi)+AI

粗略而言，在本文的敘事框架中，類(lèi)型(i)數(shù)學(xué)超智能出現(xiàn)于下文所述的第二階段（見(jiàn)§3），類(lèi)型(ii)則出現(xiàn)于第三階段（見(jiàn)§4）。初步而言，類(lèi)型(i) MASI的存在意味著人工智能已成為數(shù)學(xué)家的關(guān)鍵工具，但人類(lèi)仍在推動(dòng)或有意義地貢獻(xiàn)數(shù)學(xué)研究；而類(lèi)型(ii) MASI則意味著人類(lèi)數(shù)學(xué)家已基本或完全過(guò)時(shí)。

同樣重要的是需認(rèn)識(shí)到：從類(lèi)型(i)到類(lèi)型(ii)數(shù)學(xué)超智能的過(guò)渡可能出人意料地漫長(zhǎng)，即使人工智能持續(xù)以穩(wěn)定或指數(shù)級(jí)速度進(jìn)步。這是因?yàn)橹灰斯ぶ悄芘c人類(lèi)智能的運(yùn)作方式存在本質(zhì)差異，人類(lèi)仍可能以積極且非平凡的方式對(duì)其形成補(bǔ)充。在此情況下，人類(lèi)數(shù)學(xué)家將自然聚焦于那些尚未被人工智能?chē)?yán)格涵蓋的活動(dòng)領(lǐng)域。就主觀體驗(yàn)而言，尚不清楚這片人類(lèi)效用的剩余區(qū)域會(huì)像即將被海水淹沒(méi)的小島，還是會(huì)成為一片足夠廣闊的大陸，足以讓無(wú)數(shù)人類(lèi)數(shù)學(xué)家持續(xù) productive 地占據(jù)其心智疆域。

1.7 數(shù)學(xué)家目前對(duì)這些問(wèn)題持何種立場(chǎng)？

盡管數(shù)學(xué)家對(duì)上述問(wèn)題的立場(chǎng)似乎呈現(xiàn)出廣泛光譜，但我們可以將其簡(jiǎn)化為幾種寬泛的類(lèi)型：

? 未參與者（the unengaged）：尚未密切關(guān)注數(shù)學(xué)人工智能的發(fā)展，原因可能是漠不關(guān)心、缺乏了解，或僅僅是時(shí)間與心智帶寬不足；

? 懷疑論者（the skeptic）：認(rèn)為關(guān)于當(dāng)前或未來(lái)AI能力的多數(shù)激進(jìn)主張純屬炒作，且AI在可預(yù)見(jiàn)的未來(lái)不會(huì)對(duì)數(shù)學(xué)研究產(chǎn)生戲劇性影響；

? 技術(shù)樂(lè)觀主義者（the techno-optimist）：對(duì)利用日益改進(jìn)的AI工具來(lái)極大增強(qiáng)其研究與生產(chǎn)力感到極為興奮，并熱衷于迅速將這些工具整合進(jìn)工作流程；

? 悲觀預(yù)言者（the doomsayer）：預(yù)期數(shù)學(xué)超智能已不遠(yuǎn)，且很可能使人類(lèi)數(shù)學(xué)家基本過(guò)時(shí)。

當(dāng)然，這些類(lèi)別并非完全互斥。例如，存在“持懷疑態(tài)度的悲觀預(yù)言者”——他們認(rèn)為當(dāng)前氛圍中炒作過(guò)度，但仍預(yù)期核心AI模型將持續(xù)改進(jìn)并產(chǎn)生深遠(yuǎn)影響。順便一提，至少就本文目的而言，我們應(yīng)聚焦于核心前沿AI模型的能力，盡量避免讓印象被潛在可疑的AI相關(guān)噪音所干擾（例如作者本地市場(chǎng)上售賣(mài)的AI篩選西瓜）。

公平地說(shuō)，至少直到相當(dāng)近期，大多數(shù)數(shù)學(xué)家對(duì)AI影響數(shù)學(xué)研究的預(yù)測(cè)都頗為保守，即通常介于“未參與”與“懷疑”之間的某種組合，或許略帶謹(jǐn)慎的樂(lè)觀。特別是，對(duì)于未來(lái)幾年甚至幾十年內(nèi)出現(xiàn)超人類(lèi)水平的數(shù)學(xué)人工智能這一前景，通常會(huì)被直接否定。同樣合理的是，倘若幾年前詢問(wèn)大多數(shù)數(shù)學(xué)家，他們很可能會(huì)嚴(yán)重低估今日前沿AI模型的能力。

事實(shí)上，在§1.1所述的專(zhuān)題討論中，除康采維奇（Kontsevich）（他顯然是此處的異類(lèi)）外，大多數(shù)與談?wù)邔⑾冗M(jìn)AI想象為一種擅長(zhǎng)計(jì)算與搜索的蠻力機(jī)械式機(jī)器，但不具備自身創(chuàng)造力，更遑論取代人類(lèi)在數(shù)學(xué)研究中的主導(dǎo)地位。即使在今天，數(shù)學(xué)家的典型立場(chǎng)仍是（或明或暗地）劃出一條AI永不可逾越的界線，例如：AI無(wú)法展現(xiàn)真正的理解、無(wú)法定義新的數(shù)學(xué)對(duì)象、或無(wú)法自主設(shè)計(jì)富有創(chuàng)造力的研究方向。自然，隨著最新技術(shù)進(jìn)步，許多此類(lèi)界線已被周期性地重新劃定。

值得反思的是：為何數(shù)學(xué)家未能對(duì)其自身領(lǐng)域內(nèi)AI的進(jìn)步作出更激進(jìn)的預(yù)測(cè)？當(dāng)然，部分原因或許僅歸于在試圖過(guò)濾炒作的同時(shí)實(shí)時(shí)跟進(jìn)迅猛發(fā)展的固有困難。另有一種普遍假說(shuō)（不限于數(shù)學(xué)領(lǐng)域）認(rèn)為：人類(lèi)難以直覺(jué)把握指數(shù)級(jí)增長(zhǎng)，往往高估技術(shù)的短期進(jìn)展卻低估其長(zhǎng)期影響。當(dāng)然，這一論點(diǎn)頗具爭(zhēng)議——其極端支持者（如雷·庫(kù)茲韋爾 [Kur05]）預(yù)言即將到來(lái)的“技術(shù)奇點(diǎn)”，而另一些人則將其斥為科幻小說(shuō)或逃避當(dāng)下緊迫世俗問(wèn)題的借口。

與其涉入這一超出本文范圍的普遍議題，不如列舉幾種更特定于數(shù)學(xué)家的、常見(jiàn)的輕蔑態(tài)度，這些態(tài)度可能助長(zhǎng)了前述的保守主義：

(1) 過(guò)于機(jī)械：將AI視為本質(zhì)上僅是遵循人類(lèi)設(shè)計(jì)算法的蠻力機(jī)器，或許擅長(zhǎng)計(jì)算或結(jié)構(gòu)化模式匹配，但無(wú)法展現(xiàn)真正的創(chuàng)造力或理解力；

(2) 過(guò)于冷僻：（略帶憤世嫉俗地認(rèn)為）數(shù)學(xué)研究過(guò)于冷僻，AI開(kāi)發(fā)者不屑投入精力；

(3) 過(guò)于不可靠：指出AI模型表現(xiàn)不佳或不可靠的實(shí)例，并以此作為整個(gè)前提根本錯(cuò)誤的證據(jù)；

(4) 通用智能前提：預(yù)設(shè)擅長(zhǎng)高等數(shù)學(xué)的AI必然具備廣泛的通用智能，而此類(lèi)智能的存在將引發(fā)社會(huì)的深刻變革，以至于思慮數(shù)學(xué)研究這類(lèi)小眾領(lǐng)域的命運(yùn)顯得荒謬。

讓我們依次審視這些情緒，并論證為何從我們當(dāng)前的視角看，它們至少部分顯得短視。

首先，(1) 似乎已與大型語(yǔ)言模型（LLMs）等現(xiàn)代隨機(jī)性AI范式根本相悖——這類(lèi)模型若說(shuō)有何特點(diǎn)，恰恰是具有互補(bǔ)性的缺陷。事實(shí)上，由于它們是通過(guò)訓(xùn)練（或“生長(zhǎng)”）而非編程形成，其行為具有不可預(yù)測(cè)性，其能力與短板常令設(shè)計(jì)者本人亦感意外。誠(chéng)然，人類(lèi)大腦在無(wú)需數(shù)據(jù)中心的情況下執(zhí)行抽象數(shù)學(xué)思維并生成新洞見(jiàn)的能力無(wú)疑非凡而神秘，但如今已難以堅(jiān)持認(rèn)為這一過(guò)程的結(jié)果在根本上無(wú)法由計(jì)算機(jī)實(shí)現(xiàn)。

關(guān)于(2)，事實(shí)上許多AI開(kāi)發(fā)者當(dāng)前正表現(xiàn)出濃厚興趣，致力于培育其模型的數(shù)學(xué)推理能力與問(wèn)題解決實(shí)力，甚至咨詢專(zhuān)業(yè)數(shù)學(xué)家予以協(xié)助（參見(jiàn) [Ans25; KR25]）。這或許部分源于存在具挑戰(zhàn)性的數(shù)學(xué)基準(zhǔn)作為衡量迭代進(jìn)展的具體指標(biāo)，以及在突破這些基準(zhǔn)后隨之而來(lái)的“炫耀資本”（更不用說(shuō)吸引投資和/或付費(fèi)訂閱者的潛力）。也可能是因?yàn)椤?.4所列的其他特殊特征，或僅僅是某些當(dāng)前AI開(kāi)發(fā)者的個(gè)人品味與興趣使然。

至于(3)，此類(lèi)論點(diǎn)有滑向一廂情愿或否認(rèn)主義的危險(xiǎn)。大型語(yǔ)言模型顯然可能存在奇特而令人驚訝的失效模式，但這并不先驗(yàn)地否定其成功模式——尤其在數(shù)學(xué)領(lǐng)域，創(chuàng)造性思想的價(jià)值往往遠(yuǎn)超精確性。此外，在展望未來(lái)數(shù)年時(shí)，當(dāng)前模型的特定怪癖或弱點(diǎn)應(yīng)不如其進(jìn)步速率與可預(yù)見(jiàn)的未來(lái)軌跡來(lái)得相關(guān)。當(dāng)然，總體評(píng)估AI模型的推理能力并設(shè)計(jì)穩(wěn)健基準(zhǔn)本就極為困難，且基于不同用例、子領(lǐng)域、模型訪問(wèn)權(quán)限等，個(gè)體體驗(yàn)可能存在巨大差異。

最后，盡管(4)看似合理（若略帶些許傲慢），但它同樣無(wú)法保證成立，原因與§1.4所列特征相關(guān)。誠(chéng)然，若無(wú)極為強(qiáng)大的通用機(jī)器，數(shù)學(xué)或許無(wú)法被“解決”；但同樣可能的是，阻礙AI在其他領(lǐng)域發(fā)展、部署與采納的某些主要摩擦源，對(duì)數(shù)學(xué)研究而言相關(guān)性較低。例如，其他科學(xué)領(lǐng)域的進(jìn)展可能因安全顧慮與法規(guī)、實(shí)驗(yàn)室設(shè)備限制、自然過(guò)程的根本時(shí)間約束、許可問(wèn)題等而放緩。類(lèi)似地，在技術(shù)行業(yè)，人們可能因根深蒂固的習(xí)慣、隱私擔(dān)憂、品味問(wèn)題等而緩慢采納新產(chǎn)品。許多領(lǐng)域（如法律、醫(yī)學(xué)或房地產(chǎn)）亦存在由強(qiáng)大工會(huì)、行業(yè)協(xié)會(huì)或壟斷勢(shì)力強(qiáng)制實(shí)施的人為準(zhǔn)入壁壘。因此，出于諸多實(shí)際原因，數(shù)學(xué)研究完全可能比科學(xué)與技術(shù)的其他部分更早、更徹底地被人工智能革命化。當(dāng)然，盡管大多數(shù)數(shù)學(xué)家可能樂(lè)見(jiàn)其領(lǐng)域飛躍式前進(jìn)，變得更具內(nèi)在吸引力與外部實(shí)用性，但反面效應(yīng)可能是：人類(lèi)數(shù)學(xué)家比其他領(lǐng)域的同行更早過(guò)時(shí)。

1.8 本文的目標(biāo)是什么？

上文我們已嘗試論證：數(shù)學(xué)家群體對(duì)于人工智能在數(shù)學(xué)研究中的未來(lái)存在令人驚訝的共識(shí)缺失，且普遍存在一種令人擔(dān)憂的保守傾向——或至少缺乏對(duì)短期內(nèi)可能出現(xiàn)更具變革性結(jié)果的嚴(yán)肅討論。風(fēng)險(xiǎn)在于，這些傾向可能阻礙學(xué)界采取審慎而協(xié)調(diào)一致的行動(dòng)。特別是，盡管資深數(shù)學(xué)家或許尚有余裕實(shí)時(shí)應(yīng)對(duì)各類(lèi)發(fā)展，但新一代數(shù)學(xué)家的招募與培養(yǎng)卻需要深思熟慮的長(zhǎng)期規(guī)劃。此外，若缺乏審慎的規(guī)劃與姿態(tài)，默認(rèn)情況下，AI開(kāi)發(fā)者及其他強(qiáng)勢(shì)行動(dòng)者對(duì)數(shù)學(xué)研究的最終影響，可能并不完全契合數(shù)學(xué)研究共同體自身所期望的結(jié)果。

基于上述考量，我們的主要目標(biāo)是進(jìn)一步激發(fā)關(guān)于數(shù)學(xué)研究即將面臨的未來(lái)的嚴(yán)肅討論，并提供一個(gè)可能的框架以識(shí)別各種機(jī)遇與風(fēng)險(xiǎn)。相較于其他近期類(lèi)似主題的著述（如 [Ven; He24; Har24; Cep; Avi25; Sev24]），我們力求聚焦于可預(yù)見(jiàn)未來(lái)中可能出現(xiàn)的具體實(shí)踐性問(wèn)題，而將關(guān)于意義或目的等更具哲學(xué)性的議題留待他處探討。盡管我們明示的主題是數(shù)學(xué)研究的未來(lái)及其主要利益相關(guān)者的意涵，我們?nèi)孕柚厣辏捍颂幪岢龅闹T多問(wèn)題很可能在該語(yǔ)境之外亦引發(fā)廣泛共鳴。

1.9 本文不涉及的內(nèi)容

首先，我們不對(duì)人工智能在數(shù)學(xué)推理（或更廣泛意義上）的發(fā)展時(shí)間線作出任何精確的定量預(yù)測(cè)。我們認(rèn)為此類(lèi)預(yù)測(cè)是一項(xiàng)值得更多關(guān)注的重要實(shí)踐，但已超出本文范圍（參見(jiàn) [Kok+25] 中近期一則頗具爭(zhēng)議且廣為傳播的示例）。特別是，我們將對(duì)數(shù)學(xué)人工超智能是否及何時(shí)出現(xiàn)保持相當(dāng)不可知的立場(chǎng)，而將不同可能結(jié)果的概率賦值留給讀者自行判斷。

我們亦僅用相對(duì)較少的篇幅專(zhuān)門(mén)討論數(shù)學(xué)教育及其在人工智能影響下可能發(fā)生的轉(zhuǎn)型。該主題顯然與數(shù)學(xué)研究緊密交織，但其本身已足夠宏大，值得在其他地方進(jìn)行獨(dú)立探討。

或許更為明顯的是，我們亦將回避在思考人工超智能時(shí)不可避免會(huì)觸及的“大問(wèn)題”，例如：

? 超智能將在何種條件下出現(xiàn)？是否會(huì)經(jīng)歷“奇點(diǎn)”（即在極短時(shí)間內(nèi)迅猛爆發(fā)），抑或?qū)⒃诟L(zhǎng)時(shí)間跨度內(nèi)逐步展開(kāi)？它將與哪些實(shí)體（個(gè)人、企業(yè)、國(guó)家）保持一致，抑或根本無(wú)此一致性？是否將持續(xù)存在多個(gè)實(shí)體間的激烈競(jìng)爭(zhēng)，抑或某一實(shí)體將取得明顯主導(dǎo)地位？

? 最前沿模型是否需要龐大的計(jì)算能力（例如整個(gè)巨型數(shù)據(jù)中心）方能運(yùn)行，抑或較小規(guī)模模型仍將具有一定相關(guān)性？哪些人將能夠訪問(wèn)這些模型及其帶來(lái)的益處？

? 超智能將如何影響世界權(quán)力結(jié)構(gòu)與經(jīng)濟(jì)？對(duì)就業(yè)與職業(yè)有何影響？財(cái)富分配？醫(yī)學(xué)與人類(lèi)健康？技術(shù)？人類(lèi)繁榮？存在意義？

特別是，在§4中，我們基于一種樸素的假設(shè)展開(kāi)討論：即在不太遙遠(yuǎn)的未來(lái)某個(gè)時(shí)刻，我們將擁有與人類(lèi)創(chuàng)造者相當(dāng)程度對(duì)齊的超智能系統(tǒng)（或至少尚未滅絕全人類(lèi)）。因此，我們的討論范圍人為地收窄，若讀者預(yù)期社會(huì)與人類(lèi)存在的所有層面都將發(fā)生重大劇變，此種聚焦或許顯得輕率；然而我們認(rèn)為，在更受限定的視野下進(jìn)行思考仍具一定價(jià)值。

最后，我們不對(duì)本文的原創(chuàng)性作任何特別主張。近期已有許多其他數(shù)學(xué)家就類(lèi)似主題撰文或發(fā)表演講，包括上文所引及無(wú)疑更多的未引文獻(xiàn)。我們預(yù)計(jì)此處提出的大多數(shù)乃至全部問(wèn)題與觀點(diǎn)，都已在其他地方以某種形式被思考過(guò)，或許僅我們的整體綜合略具新意。

1.10 本文的結(jié)構(gòu)

為幫助梳理討論脈絡(luò)，我們將推測(cè)性未來(lái)劃分為三個(gè)連續(xù)的"階段"（epochs），具體如下：

1. 第一階段（§2）：AI 提升生產(chǎn)力
2. 第二階段（§3）：類(lèi)型(i)超智能
3. 第三階段（§4）：類(lèi)型(ii)超智能

當(dāng)然，這些階段在現(xiàn)實(shí)中可能存在模糊界限，數(shù)學(xué)研究的某些方面可能以不同速率跨階段推進(jìn)。此外，早期階段首次提出的問(wèn)題往往會(huì)在后續(xù)階段（通常以更強(qiáng)形式）繼續(xù)適用。

現(xiàn)簡(jiǎn)要預(yù)覽下文內(nèi)容。首先，在§2的第一階段中，我們將枚舉人工智能作為強(qiáng)大新型生產(chǎn)力工具所涉及的各類(lèi)機(jī)遇與風(fēng)險(xiǎn)。積極方面包括快速教育與文獻(xiàn)檢索、編碼實(shí)驗(yàn)與計(jì)算的新可能性、嚴(yán)謹(jǐn)性新標(biāo)準(zhǔn)、子領(lǐng)域間意外聯(lián)系等；消極方面則涉及內(nèi)容過(guò)載、質(zhì)量控制問(wèn)題、過(guò)度依賴、公平性削弱等。

其次，在§3的第二階段中，我們將探討一種更精密的人工智能形式——它能承擔(dān)數(shù)學(xué)研究中大量技術(shù)性繁重工作，例如將粗略表述的引理轉(zhuǎn)化為精確公式、提供嚴(yán)謹(jǐn)證明，甚至僅憑高級(jí)用戶指導(dǎo)即可生成完整論文。在此階段，我們?cè)O(shè)想人類(lèi)數(shù)學(xué)家仍基于個(gè)人品味、宏觀構(gòu)想及互補(bǔ)優(yōu)勢(shì)主導(dǎo)研究進(jìn)程，盡管AI在技術(shù)流程上已大幅超越人類(lèi)，并在創(chuàng)意過(guò)程中發(fā)揮日益自主的作用。我們將著重剖析人類(lèi)數(shù)學(xué)家在此新微妙平衡中的角色。

最后，在§4中，我們抵達(dá)一個(gè)數(shù)學(xué)人工智能水平——它能實(shí)現(xiàn)幾乎完全自主的長(zhǎng)期數(shù)學(xué)研究，且?guī)缀鯚o(wú)需人類(lèi)數(shù)學(xué)家的指導(dǎo)。我們將探討在這一后MASI時(shí)代，數(shù)學(xué)作為一門(mén)學(xué)科將呈現(xiàn)何種面貌：數(shù)學(xué)是否會(huì)更趨近人文科學(xué)，抑或主要作為休閑活動(dòng)或個(gè)人修養(yǎng)存在？關(guān)鍵問(wèn)題在于：即使人類(lèi)不再實(shí)質(zhì)性參與發(fā)現(xiàn)過(guò)程，人類(lèi)仍能否從共享的數(shù)學(xué)洞見(jiàn)寶庫(kù)中顯著獲益？

總體而言，§2、§3、§4所呈現(xiàn)的圖景大致如下：短期內(nèi)，我們預(yù)期數(shù)學(xué)將迎來(lái)一個(gè)"黃金時(shí)代"——前提是能妥善化解各類(lèi)潛在陷阱。此時(shí)代將呈現(xiàn)生產(chǎn)力加速提升、數(shù)學(xué)發(fā)現(xiàn)大量涌現(xiàn)（包括重大公開(kāi)問(wèn)題的解決與新方向的萌發(fā)）。與此同時(shí)，數(shù)學(xué)家將日益專(zhuān)注于更高抽象層次，最終將大多數(shù)技術(shù)細(xì)節(jié)交予機(jī)器處理。隨著人工智能持續(xù)進(jìn)步，這一黃金時(shí)代將逐漸（或突然）轉(zhuǎn)向新秩序：人類(lèi)數(shù)學(xué)家將更多承擔(dān)管理或監(jiān)督角色。最終，當(dāng)人類(lèi)數(shù)學(xué)家對(duì)研究過(guò)程的貢獻(xiàn)價(jià)值遞減時(shí)，他們將需要重新協(xié)商與數(shù)學(xué)的全新關(guān)系。

需注意，隨著討論從近期邁向中長(zhǎng)期未來(lái)，我們的敘述不可避免地更具推測(cè)性。但我們?nèi)哉J(rèn)為嚴(yán)肅思考這些更具推測(cè)性的發(fā)展是富有成效的——既因它們可能需要周密規(guī)劃，也因它們可能比普遍預(yù)期來(lái)得更快。

我們?cè)凇?中以初步展望收尾，探討如何積極影響未來(lái)或至少為之規(guī)劃。如前文所述，本文提出的問(wèn)題遠(yuǎn)多于能明確解答的問(wèn)題。

1.11 AI 使用聲明

盡管本文主體以"老式方法"撰寫(xiě)（即未使用人工智能），但作者確實(shí)使用了某些AI工具（主要為ChatGPT，以及通過(guò)Cursor使用的Claude Sonnet）用于以下事項(xiàng)：

• 編譯相關(guān)參考文獻(xiàn)列表并格式化為BibTeX條目
• 查詢或匯總簡(jiǎn)單事實(shí)或新聞事件（例如特定AI模型的發(fā)布時(shí)間線）
• 檢查拼寫(xiě)語(yǔ)法問(wèn)題并指出別扭或歧義表述等。

原文鏈接：https://kylersiegel.xyz/essay_intro_only.pdf