越來越多企業(yè)、研究所開始展示其利用人工智能取得的優(yōu)秀科研成果。但此類“AI科學家”系統(tǒng)能成為真正的創(chuàng)新者、探索者嗎？如果它們的確足夠強大，人類科學家又該如何調(diào)整自己在實驗室里的位置、在論文稿上的地位？

為論文而生，到實驗中去

那是2025年4月，有一場人工智能大會即將召開?？茖W家卡爾(Carl)則早已將自己撰寫的4份論文呈遞至大會的同行評審專家組處，希望作品最終被公開展示。經(jīng)歷了雙盲同行評審后，4篇文章里的3篇順利入圍。

評審專家確信卡爾的成果水平高、亮點足，而他們不知道的是，這3篇論文其實是AI寫的，從一眾人類投稿者中脫穎而出的卡爾是AI系統(tǒng)。(當然，撰文過程有不同程度的人類參與。)研發(fā)出卡爾系統(tǒng)的科技企業(yè)名為Autoscience Institute，該機構表示，這款模型能加速人工智能領域的研究進程。

時間過去短短一年，像卡爾這樣的“AI科學家”越來越多。比如，美國的非營利性研究所FutureHouse開發(fā)了科研智能體羅賓(Robin)、科斯莫斯(Kosmos)；更早些時候，日本AI初創(chuàng)公司Sakana AI也推出過全自動科學發(fā)現(xiàn)系統(tǒng)——產(chǎn)品名就叫“AI科學家”。

AI科學家由多個大型語言模型(LLM)整合而成。Autoscience Institute聯(lián)合創(chuàng)始人埃利奧特·考恩(Eliot Cowan)表示：不同于聊天機器人，以卡爾為代表的AI科學家被設計用于生成、驗證研究思路并產(chǎn)出科研成果。此類系統(tǒng)能在不同程度上自主梳理文獻、提出假設、開展實驗、分析數(shù)據(jù)，最終取得創(chuàng)新性的科研發(fā)現(xiàn)；而開發(fā)者的目標是借助人工智能提高科研效率、擴大科研產(chǎn)出。

至于AI科學家會不會取代人類科學家——企業(yè)普遍覺得可能性很小。

不過無論如何，科學研究攜手人工智能的自動化發(fā)展趨勢已經(jīng)引發(fā)某些復雜情緒。正如知名學者朱利安·托格利烏斯(Julian Togelius)所言：“你很難不感到不安，因為像提假說、整文獻這些工作，本該是我們做的?！?/p>

托格利烏斯既是計算機科學家又是AI研究專家。實際上，有許多像托格利烏斯這樣的AI領域研究者都心懷憂慮，認為AI科學家可能擠占下一代科研人員的發(fā)展空間，將大量低質(zhì)量、不可靠的數(shù)據(jù)引入科研系統(tǒng)，削弱人們對科學發(fā)現(xiàn)的信任度。

英國艾倫·圖靈研究所的學者大衛(wèi)·萊斯利(David Leslie)則感慨：“科研是一項已經(jīng)高度成熟且充滿社會性、由人類主導的事業(yè)。傳統(tǒng)上的科研實踐與計算系統(tǒng)的運作存在本質(zhì)區(qū)別——人工智能在其中該如何定位？”

“為科學研究帶來無限可能”

過去5年間，AI驅動的自動化系統(tǒng)已助力取得多項重大科研突破。

例如，谷歌DeepMind公司推出的AlphaFold能以高分辨率預測蛋白質(zhì)三維結構，其運算速度遠非科研人員得實驗速度可比。作為AlphaFold的主要開發(fā)者德米斯·哈薩比斯(Demis Hassabis)和約翰·江珀(John Jumper)，也憑借在蛋白質(zhì)結構預測方面的卓越貢獻而收獲2024年諾貝爾化學獎。(詳見：)

萊斯利曾提出所謂“計算弗蘭肯斯坦拼接體”(computational Frankensteins)的概念：對各類生成式AI基礎設施、算法及其他組件做融合，再利用融合后的技術開發(fā)應用，嘗試模擬那些復雜、本需人類親身參與的社會實踐，其中包括科學發(fā)現(xiàn)過程。

僅2025年一年，就至少有Sakana AI、Autoscience Institute、FutureHouse三家單位高調(diào)公布其首批由人工智能生成的科研成果。部分受雇于美國政府的科研人員也開始接納AI：在阿貢國家實驗室、橡樹嶺國家實驗室和勞倫斯伯克利國家實驗室，科學家成功開發(fā)出由AI驅動的全自動材料實驗室。

這些人工智能系統(tǒng)和大語言模型一樣，有望被用于整合文獻、挖掘海量數(shù)據(jù)，進而發(fā)現(xiàn)潛在規(guī)律。在材料科學領域，AI系統(tǒng)能設計、發(fā)現(xiàn)新型材料；在亞原子粒子物理學領域，它們也能幫助人類取得深刻的見解。

萊斯利表示，人工智能系統(tǒng)能以人類不可企及的方式，在數(shù)百萬、數(shù)十億乃至數(shù)萬億個變量間建立關聯(lián)?！皢问沁@項能力，就為科研帶來了無限可能?！?/p>

舉例來說，F(xiàn)utureHouse開發(fā)的羅賓通過對文獻資料的挖掘，發(fā)現(xiàn)一種有望治療致盲性病變的候選藥物，還提出了驗證該藥物療效的實驗方案，并完成相關數(shù)據(jù)分析。

編造風險大，創(chuàng)新力不足

在創(chuàng)造無限可能的對面，是生產(chǎn)科研糟粕的風險。

正如卡內(nèi)基梅隆大學計算機科學家尼哈爾·沙阿(Nihar Shah)所擔憂的，未來或將有大量質(zhì)量低下、缺乏創(chuàng)新的AI生成研究充斥學術文獻。當然，沙阿對人工智能助力新發(fā)現(xiàn)的前景“總體上更為樂觀”。

值得一提的是，沙阿團隊還測試過兩款輔助科研的AI模型，試圖找出系統(tǒng)的缺陷和不足。一款是Sakana AI的“AI科學家2.0”，另一款是半導體企業(yè)AMD與約翰霍普金斯大學合作打造的“智能體實驗室”(Agent Laboratory)系統(tǒng)，其任務是充當科研助理。

在測試中，AI科學家2.0開展某一特定任務時報告了達到95%乃至100%準確率；鑒于研究人員事先向數(shù)據(jù)集內(nèi)引入了噪聲，如此準確率顯然不合理。智能體實驗室也存在類似問題，即有時會編造合成數(shù)據(jù)集用于分析，卻在最終報告里聲稱分析基于原始數(shù)據(jù)集。

為此，沙阿與同事創(chuàng)建了新算法用以標記這類方法學誤區(qū)，比如“分析時只挑選對研究有利的數(shù)據(jù)集”“選擇性公布陽性結果”等。

另一方面，生成式AI系統(tǒng)存在創(chuàng)新能力不足的問題。

例如，曾有專家判斷聊天機器人GPT-4僅能實現(xiàn)漸進式的科學發(fā)現(xiàn)；又如，《科學-免疫學》(Science Immunology)雜志2025年發(fā)文稱：盡管AI聊天機器人能準確整合文獻，但至少在疫苗學領域，它們提不出富有洞見的研究假設或實驗方案。

該如何審查、驗證AI產(chǎn)出的成果？

沙阿認為，AI科學家的持續(xù)應用并不會導致實驗室中的人類被邊緣化。

“就算機器強大到無與倫比，人類仍有施展才華的天地；當然，目前還難以明確未來人類的角色定位，能參與科研的哪些環(huán)節(jié)。”

用萊斯利的話說，科學研究一直都是充滿“人性”的事業(yè)，由人類的詮釋、構建、探討和探索組成，常常受到科研人員自身的價值觀和偏好的影響。為預測最優(yōu)答案而生的計算系統(tǒng)則與之截然不同。預測模型本身只負責從博大精深的科學實踐中截取冰山一角。

“要知道，科研實踐的復雜性常常來自制度層面、方法論層面和歷史層面，科研甚至還受限于不公正、歧視等問題——這些問題往往決定誰能從事科研、誰被拒之門外、科學為誰服務、哪些領域長期徘徊不前……”

有些專家認為，AI科學家不會成為替代者，而是科研人員的輔助工具，幫助人類收獲洞見，就像顯微鏡、望遠鏡一樣。

Sakana AI推出初代AI科學家時曾發(fā)文稱：“我們認為，人類科學家的作用不會被削弱，反倒會跟隨技術新趨勢而調(diào)整角色定位，向科研價值鏈的更高處邁進?！?/p>

實際上，如今有許多科研人員都已開始思考自己未來會如何與AI攜手相伴。不過，其中有一項關鍵話題一直被關注，即“如何審查與驗證人工智能產(chǎn)出的研究成果”。

沙阿提議，未來的學術期刊和會議應核查科研過程的日志記錄以及生成的代碼，以此審查AI成果，驗證其真實性，并找出其中的方法學漏洞。

考恩表示，Autoscience Institute等機構正嘗試設計嚴守倫理準則的AI系統(tǒng)，希望人工智能遵循“學術機構的科研人員開展實驗時所需遵循的標準”。

值得一提的是，前文介紹的卡爾被設計者置入了多項準則，包括杜絕虛假署名和剽竊、保證結果的可復現(xiàn)性、不涉及人類受試者或采用敏感數(shù)據(jù)等。

資料來源：

文章轉載自“世界科學”公眾號