近年來，AI的迅猛發(fā)展也使科研范式發(fā)生了根本性變革。谷歌基于Gemini 2.0的多智能體系統(tǒng)“co-scientist”在48小時內便獨立復現(xiàn)并擴展了人類研究者歷時十年才確立的超級細菌耐藥機制假設，甚至提出了額外且合理的全新理論；而DeepMind的AlphaEvolve則在半個世紀無人突破的4 × 4矩陣乘法問題上，將乘法次數(shù)從經典Strassen算法的49次進一步壓縮至48次，并已通過開源代碼驗證其正確性與數(shù)值穩(wěn)定性。前者展示了AI生成并篩選科研假設的驚人效率，后者證明了AI能在數(shù)學難題上實現(xiàn)前所未有的算法飛躍。二者共同昭示，人工智能正從“輔助工具”躍升為能夠主動推動知識前沿的“共研伙伴”，重塑科學發(fā)現(xiàn)的速度與邊界。

布蘭登·伯施

Brandon Boesch

美國愛荷華州

莫寧賽德學院哲學系副教授

現(xiàn)為美國愛荷華州莫寧賽德學院哲學系副教授，現(xiàn)居內布拉斯加州奧馬哈市。Boesch 的研究主要集中在科學哲學和應用倫理學領域。在科學哲學方面，他關注科學中的模型和表征的本質與作用，并探討行動哲學如何幫助理解科學實踐中的這些元素 。在應用倫理學方面，他研究身份和誠信在實踐推理中的角色，特別關注慈善倫理和生物醫(yī)學倫理等議題 。

當代科學本質上是計算科學。若沒有模型、模擬、統(tǒng)計分析、數(shù)據存儲等工具，人類對世界的認知進程將變得異常遲緩。幾十年來，我們根深蒂固的好奇心一部分已經通過硅基芯片與軟件得以滿足。

"混合場景"階段：

計算機的引入讓人類的科研地位邊緣化

已故哲學家保羅·漢弗萊斯（Paul Humphreys）將科研過程的某些環(huán)節(jié)被外包給計算機系統(tǒng)的現(xiàn)象稱為科學的"混合場景"（hybrid scenario）。他同時預見到這種模式可能會發(fā)生的改變。

盡管其相關論述始于生成式人工智能崛起的十多年前，漢弗萊斯依然憑借先見之明認識到人類主導科學過程的日子可能時日無多。他預見到科學發(fā)展的下一階段，并稱之為"自動化場景"（automated scenario），屆時計算機將完全接管科研工作。在這種未來中，計算機在科學推理、數(shù)據處理、模型構建與理論建構方面的能力將全面超越人類，直至我們完全退出科研鄰域。屆時，這些智能系統(tǒng)將繼承人類開創(chuàng)的科研事業(yè)，將既有理論推向我們難以企及的新高度。

多項研究指出，人類在科學領域的認知主導權的終結已經初現(xiàn)端倪。一項對人工智能研究者的最新調查顯示，未來百年內AI有50%的可能性可以全面取代人類工作崗位（盡管我們仍愿為人類保留一些工作，如陪審員）。無論您是否認同這種未來，或是覺得它不會這么快來臨，此刻不妨先暫時擱置質疑，而是設想，若這種超級人工智能終將成為現(xiàn)實，其發(fā)展將意味著人類可將科學事業(yè)托付給認知能力遠超自身的“人工智能后裔”，它們將以超越人類想象的速度與質量完成科研工作。

這無疑將會是一個奇怪的圖景。首先，AI可能會選擇探索人類科學家缺乏動力或動機的研究方向，從而開辟前所未有的發(fā)現(xiàn)路徑。它們甚至可能獲取超越人類認知極限的宇宙知識。這將置我們人類于何種境地？我們又該如何應對？我認為我們需要現(xiàn)在就開始提出這些問題，因為在數(shù)十年內，我們所知的科學就可能發(fā)生深刻轉變。

漢弗萊斯提出的科學自動化情景雖然聽起來像科幻小說的內容，實則延續(xù)著數(shù)百年的歷史進程。人類從未真正獨立開展過科學研究。長久以來我們倚賴顯微鏡、望遠鏡、標準化量具與燒杯等工具延伸我們對于世界的觀測。此外，還有許多物理現(xiàn)象，如果沒有溫度計、蓋革計數(shù)器、示波器、量熱計等儀器，我們就無法直接精確地觀測到它們。

計算機的引入標志著人類在科學研究中的地位的進一步邊緣化，這正是漢弗萊斯定義的"混合場景"階段?，敻晏亍だ睢ぶx特利（Margot Lee Shetterly）在著作《隱藏人物》（Hidden Figures, 2016）及其改編電影中記載了一個標志性案例。早期美國航天飛行依賴凱瑟琳·約翰遜（Katherine Johnson）等人類數(shù)學家完成軌道計算。但當時間推進至登月計劃時期，不到十年光景，這些計算工作的主體已移交計算機系統(tǒng)。

隨后數(shù)十年間，計算處理能力呈指數(shù)級增長，計算成本隨之呈現(xiàn)反向關聯(lián)性下降。當前的科學研究或處在“高級混合場景”，對計算系統(tǒng)的依賴愈加顯著。以希格斯玻色子的發(fā)現(xiàn)為例，哲學家瑪格麗特·莫里森（Margaret Morrison）在其著作中闡釋了計算模擬技術的關鍵作用，這些系統(tǒng)不僅指導科學家鎖定觀測目標，更承擔著從海量高能對撞數(shù)據中篩選有效信息的重任。

?電影《隱藏人物》劇照。片中，當時的科學家正在進行軌道計算。在不久的未來，這些工作被計算機取代。圖源：Annalee Newitz

現(xiàn)實世界：

人類仍然掌握科學發(fā)展核心決策權

如今，AI已開始對科學研究產生重大影響。以AlphaFold系統(tǒng)為例，這款AI系統(tǒng)專門用于預測特定化學結構下蛋白質的三維折疊形態(tài)。盡管研究者可以不借助該系統(tǒng)獨立完成此類工作，但其過程耗時費力且成本高昂。AlphaFold的研發(fā)團隊Google DeepMind宣稱，該系統(tǒng)已為全球科研界節(jié)省了"數(shù)億年的研究時間"。類似的技術紅利正輻射至各個科學領域，包括天文學與基因組學的海量數(shù)據分析，數(shù)學領域新證明方法的開發(fā)，氣象預測，新藥研發(fā)等等。

當計算型人工智能（computational AI）的科研貢獻開始以"數(shù)億年"為計量單位衡量時，人類仿佛成為了科研合作中效率低下的參與者。我們是否已身處“自動化場景”之中？但實際上，我們尚未達到這個階段。人類對科學發(fā)展的核心作用依然不可替代，我們依然掌握著核心決策權：從科研方向的提出、研究結果的闡釋，到科學進程的把控，每個關鍵環(huán)節(jié)仍由人類主導。

若循著漢弗萊斯的理論推演，人類將科研中知識寶座的完全讓渡將發(fā)生于更后期的階段。屆時，超級AI不僅能執(zhí)行人類設定的任務，還將具備自主設定科研議程的能力，它能依據其獨立確立的理論價值標準，自主開展研究規(guī)劃、數(shù)據采集、模型構建與理論創(chuàng)新，形成完全自主的科學體系。

讓我們先停下來思考一下，擺脫了人類生理與認知桎梏的超級人工智能，在科研領域將展現(xiàn)出何等令人驚嘆的可能性。諸多科學問題因沒有資金支持或純粹因為人類不感興趣，始終不會受到科學界的研究。

在我寫下這段文字時，我正凝視著庭院中一片半朽的落葉——超級AI或許會有興趣于構建一個預測模型，以秒級精度，依據樹種、葉面積、微生物接觸史、光照與濕度條件等參數(shù)解析特定葉片的衰變過程與速率。這就是一個極其復雜，且其細節(jié)對人類而言缺乏顯性價值的問題。又或者超級人工智能或許能建立數(shù)學模型解答我兒子曾提出的疑問，精確預測他遺落山間的雪球中的水分子何時會隨發(fā)源山間的河流流經我們的家門。此類預測需構建涵蓋流域結構、流體動力學、氣候特征等要素的極端復雜與詳盡的模型，而人類并不會花費精力去解決這樣“沒有意義”的問題。

人類也并非永遠無法解答此類問題。若投入足夠的研究精力與資金支持，科學家們完全有可能為這些深奧現(xiàn)象構建有效的預測模型。但現(xiàn)實是，我們不會付諸實踐。無論利弊，當代科學的發(fā)展軌跡始終受制于強烈的現(xiàn)實因素，這些因素包括經濟價值、政治優(yōu)先性、職業(yè)前景、文化潮流、以及形形色色的人類認知偏見與信仰等。試想當所有這些桎梏被徹底破除時，科學將呈現(xiàn)何種面貌？

“自動化場景”的深遠影響不僅限于對人類無法或不愿涉足的科研項目進行高效探索。盡管超級AI可能暫時沿襲既有理論范式，但它們完全可能另起爐灶，構建全新的世界理論。同理，即便能沿用人類科學家熟悉的數(shù)學符號體系，它們將迅速突破傳統(tǒng)方式的束縛，創(chuàng)建出全新的數(shù)學語言與表達系統(tǒng)。

“自動化場景”階段：

人類或許無法阻止超級AI自行發(fā)展

在我看來，鑒于這類AI很可能迅速拋下人類認知框架的包袱，我們或許需要遵循維特根斯坦式哲學思辨，將“自動化場景”視作其開創(chuàng)獨立科學語言的起點。

維特根斯坦在《哲學研究》（Philosophical Investigations, 1953）中提出著名論斷："若雄獅能言，人類亦難明其意。"這個看似矛盾的命題揭示著語言意義其實是深深根植于人類的內在經驗網絡的?？茖W語言亦遵循此理。當超級AI開始自主制定并執(zhí)行研究計劃時，其科研成果將因人類缺失必要的內在認知視角而變得不可解讀。在我們看來，這些研究將成為目標未知、意圖難測、詮釋方式無從把握的科學。

?諷刺漫畫《Wittgenstein at the Zoo》。作中主角駁斥友人：即使你教會了雄獅如何說話，它們也無法理解我們的思想。圖源：@existentialcomics

人類認知能力很可能存在固有邊界，包括無數(shù)永遠無法被理解的數(shù)學體系，以及超越三維體驗的多維概念。其他物種的智力局限，比如嘗試向最聰明的黑猩猩解釋廣義相對論的實驗，已為我們敲響警鐘，那就是人類的認知可能同樣存在局限，無法理解過于復雜的概念。

即便假設我們的認識能力不存在局限，仍然存在這樣一個問題，超級AI的推理在實踐中可能超出我們的能力。要理解“自動化場景”下的科學成果，可能需要同時考量數(shù)百個復雜模型，每個模型包含數(shù)百個參數(shù)，且均無法對應人類熟悉的概念。即便我們能夠逐個理解參數(shù)，甚至理解單個模型，也終究無法實現(xiàn)所有要素的同步整合。

根據你對技術、AI以及奇點（singularity）的偏好差異，上述內容可能會讓你覺得極度悲觀，抑或格外振奮。如果你和我一樣，那就只會覺得這純屬奇聞。既然完全“自動化場景”的結果可能超出我們的理解范圍，那么我們?yōu)槭裁匆度虢洕Y源和智力去推動它的發(fā)展？盡管這個問題經常被那種“未來終將到來，不管我們愿不愿意”的簡單論斷所掩蓋，我仍然認為，在我們開始有意放棄科學這一知識寶座之前，依然值得花時間厘清自己支持這種未來的理由。

支持“自動化場景”的理由之一，在于我們認為積極進展將隨之而來。超級AI可能不時創(chuàng)造出新技術、新資源或解決問題的新方法。鑒于本文的推測篇幅已遠超預設，筆者暫不限定這些產物的具體形態(tài)，僅希望指出超級智能或能不時推送其判定對人類有益之的研究成果。屆時，人類工程師（假設尚未被取代）或將接手這些技術并探尋其應用場景，即便他們無法透徹理解其運作機理。

這種情形類似于，雖不了解顯示器顯示圖像或文字處理器運行的具體原理，卻不妨礙利用顯示器撰寫此文。此類科研活動將失去當代科學與工程學的特質，更近似于單純的發(fā)現(xiàn)，如同原始人認識到藤蔓可以有效捆扎三根樹枝以搭建庇護所，亦如同人類偶然發(fā)現(xiàn)煤炭、青霉素等物資的實用價值。另一種科學形態(tài)或將伴隨而生，即通過對AI的成果進行逆向工程，推動并修正人類既有的理論認知體系。

推動超級AI科學發(fā)展的另一理由可能源于審美維度。就個人而言，當我思考社會對科學的資助機制時，審美考量會構成一個強烈的驅動力。盡管我無力亦無暇通曉所有科學領域，但目睹眾多杰出科學家執(zhí)著于追尋人類特有的好奇心，即便這些探索未必能給我的生活或世界觀帶來正向影響，仍能讓我感到美好。這種知曉世界正被認知、研究與理解的過程本身，就蘊含著令人愉悅的審美體驗。這種審美價值能否延伸至非人類科學家？或許難以一蹴而就。但那些已學會與AI共生的未來世代，或將把支持這種超人類認知的意愿視為一種良性社會的標志。

另一種可能性是，人類可能出于對超級AI的善意推動“自動化場景”的實現(xiàn)，這種看法認為我們會相信，讓超級AI自主發(fā)展科學具有積極意義。盡管我們可能會因為超級人工智能掌握了我們所不了解的知識而感到沮喪，甚至會心生不安，但我們仍會出于對這些人造“后裔”的道德責任感或善意，繼續(xù)推進這一進程。

此外，某些動因也可能在無意間催生“自動化場景”。例如，人類或許會將在宇宙中散播知識視為自身的道德責任或天命所歸。如果這種智慧在星際旅途中恰好開展自動化科學探索，那變順其自然。

同樣存在諸多支持人類放棄推進自動化情景。比如有人認為超級AI的發(fā)現(xiàn)可能催生新型惡性武器。或者，由于它們需要具備自主且不受約束的智能體（agency），出現(xiàn)世界末日的風險將會增加，例如人類將被奴役或滅絕。也有觀點只是擔心，某些超級AI或將以危險、有悖倫理或違背人類共同價值的方式進行實驗。

然而，盡管存在諸多擔憂，一旦在技術上可行，我們恐怕仍無力阻止其發(fā)展。最具說服力的原因或許是，資本力量與競爭機制的裹挾終將使我們步入“自動化場景”。而這種未來可能在沒有深思熟慮的情況下悄然降臨，僅僅因為技術可行，或有人想捷足先登，到那時，無論我們是否經過理性抉擇，未來或終將降臨。

敏銳的讀者會注意到，在發(fā)展“自動化場景”的諸多潛在動因中，唯獨缺失了當前驅動科學發(fā)展的動機。我們不會為了增進對世界的認知與理解、提升對現(xiàn)象解釋力或增強對自然的干預力量而追求“自動化場景”，這些動機注定與“自動化場景”的本質相悖?！白詣踊茖W”將搶走人類的認知寶座，將我們排除在新發(fā)現(xiàn)的內在認知視角之外，而這些發(fā)現(xiàn)很可能復雜到超越我們的理解能力。因此，“自動化科學”無法滿足人類對理解、闡釋、知識與控制的基本訴求。

或許隨著時間推移，人類能學會放棄這些訴求，進化為興致缺缺、沒有好奇心的物種。但我對此深表懷疑。正如未來終將到來，這些渴求也必將持續(xù)存在，無論我們是否情愿。

總結

那么人類將何去何從？在漢弗萊斯的原始論述中，“自動化場景”將取代人類科學。對此筆者持不同見解。只要人類對理解、闡釋、知識與控制的根本渴求持續(xù)存在，我們就必然通過科學實踐來滿足這些渴求。正如人類始終存在創(chuàng)造美的渴求，并在友誼與愛情中追尋人際聯(lián)結，在生命歷程中探尋與建構意義，驅動科學探索的原始動機同樣根植于人性深處。我們注定無法擺脫理解與解釋周遭自然世界的好奇本能。

若“自動化場景”終將實現(xiàn)，其更可能作為某種新型的、替代性的次要路徑存在，更類似于補充而不是取代。兩個物種將肩并肩開展科學研究，各自秉持不同的動機、興趣、框架與理論體系。而某些科研領域，例如人類對自身思維機制、決策過程、社會關系與身體健康的求索，將難以引發(fā)超級AI的研究興趣。

誠然，若我們仍希望保持人類本性（這恰是筆者衷心所愿），就必須持續(xù)投身科學事業(yè)。試問：若失去對美的追尋、對友情的締造、對意義的建構，以及那份與生俱來的無盡好奇，人類還剩下什么？或許是我想象力的局限，使我難以勾勒出人類主動摒棄這些基本訴求的未來圖景。雖然，諸多超人類主義者或持不同見解。但我并不認為，洞察美、愛、意義及科學中的善，是缺乏創(chuàng)造力的表現(xiàn)。正相反，就我而言，人類這無可救藥的好奇心恰是希望所在。

原文鏈接：https://aeon.co/essays/when-ais-do-science-it-will-be-strange-and-incomprehensible

1. http://github-phialsbasement/AlphaEvolve-MatrixMul-Verification:VerificationofGoogleDeepMind'sAlphaE

2. https://www.wired.com/story/google-deepminds-ai-agent-dreams-up-algorithms-beyond-human-expertise/

3. https://www.newser.com/story/364628/google-ai-tool-catches-up-to-years-of-research-in-48-hours.html

4. https://research.google/blog/accelerating-scientific-breakthroughs-with-an-ai-co-scientist/

5. https://arxiv.org/html/2401.02843v1

6. https://global.oup.com/academic/product/reconstructing-reality-9780199380275?cc=gb&lang=en&

7. https://aeon.co/videos/for-ludwig-wittgenstein-language-is-a-game-but-not-a-frivolous-one

關于追問nextquestion

天橋腦科學研究院旗下科學媒體，旨在以科學追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學的邊界。如果您有進一步想要討論的內容，歡迎評論區(qū)留言，或后臺留言“社群”即可加入社群與我們互動。

關于天橋腦科學研究院

天橋腦科學研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創(chuàng)建的世界最大私人腦科學研究機構之一，圍繞全球化、跨學科和青年科學家三大重點，支持腦科學研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設立了應用神經技術前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學院合作成立了加州理工天橋神經科學研究院。

Chen Institute建成了支持腦科學和人工智能領域研究的生態(tài)系統(tǒng)，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎勵計劃、、、大圓鏡科普等。