人工智能時代的科研誠信

——中國科學院學部2025’科技倫理研討會會議綜述

譚健英1,2 劉慧暉2

李瑞2 王熙婷2

王振宇2

(1中國科學院大學公共政策與管理學院；2中國科學院學部科學規(guī)范與倫理研究支撐中心)

DOI:10.19524/j.cnki.10-1009/g3.2025.04.170

2025年9月26日，中國科學院學部在北京組織召開2025年度科技倫理研討會。會議以“人工智能時代的科研誠信”為主題，圍繞“人工智能時代科研不端行為的界定、特征及責任主體認定”“人工智能時代科研不端行為審查與監(jiān)管的技術(shù)博弈”“人工智能在科研中的使用邊界與倫理紅線”“人工智能時代科研治理誠信及實務”四個議題展開研討，對人工智能時代的科研誠信展開了全方位、多角度、深層次的分析和討論，并就具體問題提出了對策建議。

參會人員合影

中國科學院學部科學道德建設委員會主任胡海巖院士在致辭中指出，以ChatGPT為代表的大語言模型相繼問世以來，人工智能在知識獲取、數(shù)據(jù)分析及學術(shù)寫作等領域得到廣泛應用，學習和研究效率顯著提升。但是人工智能的介入根本性地改變了學術(shù)活動的主體構(gòu)成。這種“算法參與”的科研模式帶來了一系列新問題，包括貢獻歸屬難以明確、研究過程不夠透明、結(jié)論可解釋性下降等。此外，人工智能系統(tǒng)潛在的算法偏見及其生成虛假或誤導性信息的風險也不容忽視。他強調(diào)，科研誠信是科學事業(yè)的基石，面對人工智能帶來的新挑戰(zhàn)，我們要更加堅守誠信底線，通過協(xié)同治理營造良好的科研生態(tài)。

中國科學院學部科學道德建設委員會副主任梅宏院士在引導發(fā)言中指出，人工智能正在逐漸融入科研全過程，在顯著提升科研效率的同時也帶來風險。他通過案例分享，指出人工智能的科研誠信問題主要出現(xiàn)在兩個環(huán)節(jié)：一是成果的產(chǎn)出，二是成果的表達。他提出要建立健全主動披露和標注制度，建立涵蓋大模型開發(fā)者、創(chuàng)作者、使用者的標注責任機制，推進相關(guān)標準和規(guī)范的制定。

南京大學教授、中國科學院院士譚鐵牛從人工智能發(fā)展趨勢、帶來的科研誠信新挑戰(zhàn)和應對之策三個角度加以闡述。他認為，人工智能總體上還處于發(fā)展的初級階段，人工智能尚存在“多知、少智、無謀、缺情”等基礎性問題。在新挑戰(zhàn)方面，他通過對比人工智能生成內(nèi)容和真實實驗數(shù)據(jù)，闡述了人工智能的“完美造假”，提出人工智能帶來的篡改偽造、成果歸屬、責任界定等系列挑戰(zhàn)。他指出，通過明確主體責任、制定各學科領域的人工智能使用規(guī)范、創(chuàng)新人工智能防偽檢測和溯源檢測技術(shù)、強化高?？蒲姓\信教育培訓、加強國際合作等多種舉措，共同維護人工智能時代的科研誠信。

國家自然科學基金委員會原副主任韓宇認為，以人為主體的學術(shù)規(guī)范雖然效果較好，但無法適用于人機協(xié)同的人工智能時代。他指出，在新舊范式轉(zhuǎn)變過程中，人工智能在適應科學發(fā)展要求、責權(quán)合理分享、影響學者發(fā)展等維度仍存在問題。他認為，需合理構(gòu)建人工智能時代的新范式，在人智和機智共存的階段，要堅持以人智為核心，堅持完善人工智能能力培訓，堅持批判性創(chuàng)新和包容韌性的學術(shù)規(guī)范引導，堅持馴化人工智能向善。

愛思唯爾（Elsevier）全球期刊中國區(qū)董事孫巖總經(jīng)理回顧了愛思唯爾的數(shù)字化轉(zhuǎn)型歷程。數(shù)據(jù)顯示，全球人工智能主題文獻僅2024年已經(jīng)達到近50萬篇。在這種背景下，期刊應該如何應對人工智能帶來的科研誠信問題？她認為，人工智能產(chǎn)生的學術(shù)不端行為可能發(fā)生在出版過程的各個環(huán)節(jié)，要“兩手抓”：一手抓技術(shù)與人才，一手抓標準與協(xié)作。開發(fā)一流的誠信檢查工具，培養(yǎng)科研誠信領域?qū)I(yè)人才；制定面向作者、編輯、審稿人的生成式人工智能學術(shù)規(guī)范，并用于實踐，構(gòu)建人工智能科研誠信新生態(tài)。

中國科學院自動化研究所宗成慶研究員重點闡述了大模型為科技規(guī)范和社會倫理帶來的挑戰(zhàn)。他提出，大模型帶來訓練數(shù)據(jù)真實性與合法性、數(shù)據(jù)開放與版權(quán)保護、人機責任認定等挑戰(zhàn)。在人工智能使用規(guī)范方面，他認為，要積極擁抱新技術(shù)。對于學生，應制定相應學術(shù)規(guī)范加以引導，合理運用人工智能技術(shù)；對于其他成人，沒有理由也沒有必要限制其使用人工智能工具。

中國科學院文獻情報中心馬娜副研究館員指出，科學研究的嚴謹性需要準確的知識庫、文獻庫、數(shù)據(jù)庫作為“智囊”。為確保人工智能時代期刊論文的高質(zhì)量，Science等國際出版機構(gòu)制定了出版規(guī)范。在數(shù)據(jù)方面，采用強制或建議作者提交研究數(shù)據(jù)，并開放共享的方式，推動科學研究的透明性、可信性；在署名方面，學術(shù)期刊應明確人工智能系統(tǒng)不能以作者身份出現(xiàn)，作者需對論文完全負責。

中國科學技術(shù)信息研究所科學計量與評價中心副主任楊代慶研究員圍繞學術(shù)論文中人工智能使用邊界標準化問題，重點介紹了《學術(shù)出版中AIGC使用邊界指南2.0》，從資料收集、論文撰寫、出版發(fā)表的各階段劃定了清晰的“紅黃藍線”標準，這是人工智能使用的有效實踐指導，有望走向國際化。

北京航空航天大學和鴻鵬副教授基于案例和調(diào)查研究數(shù)據(jù)，闡述了生成式人工智能的學術(shù)應用潛力，但也指出其帶來了難以認定的學術(shù)剽竊、隱蔽性的數(shù)據(jù)泄露、自增強的虛假信息等科研倫理問題。他認為，要走出人工智能誘發(fā)的學術(shù)倫理困境，應立足“從無到有、先有后優(yōu)”的政策思路，對已有學術(shù)誠信政策做出調(diào)整，并出臺生成式人工智能學術(shù)使用指南。

主旨報告之后，專家圍繞四個議題進行了深入交流。在“人工智能時代科研不端行為的界定、特征及責任主體認定”方面，大家普遍認為人工智能的科研不端行為具有復雜、隱蔽、難識別的特點，容易引發(fā)科研誠信治理重構(gòu)以及科研生態(tài)變化的問題。多數(shù)專家認為人應作為科研主體，并承擔主要責任。研究人員要全面審查人工智能生成內(nèi)容，反對“圖片誤用”等推卸責任的行為。但是在科研誠信問題與人工智能的關(guān)系方面，專家存在分歧。部分專家認為，科研不端行為本質(zhì)仍屬偽造、篡改、抄襲范疇，人工智能僅是引發(fā)治理重構(gòu)的技術(shù)誘因；另一部分專家則認為，人工智能的介入使科研誠信問題產(chǎn)生了新屬性，需區(qū)分與人工智能相關(guān)的誠信問題和傳統(tǒng)誠信問題。

在“人工智能時代科研不端行為審查與監(jiān)管的技術(shù)博弈”方面，專家一致認為，人工智能既可能成為不端行為的幫兇，也可能成為監(jiān)督的利器，如何在攻與防的博弈中保持動態(tài)平衡，是科研誠信治理的重要問題。關(guān)鍵對策包括：一是“以技制技”，開發(fā)高級誠信審查工具，從技術(shù)層面引導人工智能的規(guī)范使用，實現(xiàn)“從內(nèi)到外”的風險預防；二是強化特殊領域監(jiān)管，尤其需加強對生命科學企業(yè)的倫理審查。

在“人工智能在科研中的使用邊界與倫理紅線”方面，專家提出需要明確三大核心紅線。一是責任歸屬紅線，即在數(shù)據(jù)生成、成果界定及引用標注等關(guān)鍵環(huán)節(jié)，必須始終由研究者承擔主體責任。二是能力替代紅線，需明確科研中諸如價值判斷、實驗設計及結(jié)果闡釋等核心環(huán)節(jié)，不應完全交由人工智能完成。三是主體規(guī)范紅線，科研共同體需制定統(tǒng)一的人工智能使用規(guī)范和標注機制。國家自然科學基金委員會提供了實踐標準，在進行科研不端行為調(diào)查處理中重點把握以下三點：申請人不允許使用人工智能生成申報材料；評審專家經(jīng)批準的情況下可以使用人工智能評審；項目負責人合理披露研究中使用的人工智能。

在“人工智能時代科研誠信治理及實務”方面，專家普遍認可人工智能帶來的科研誠信的挑戰(zhàn)需要制度、實踐、教育協(xié)同推進。一是完善科研倫理制度體系，從軟法到硬法體系化分層分類、有針對性地采取措施。二是采取多方聯(lián)動組合的方式，建立群防群治的格局，整合科研機構(gòu)、企業(yè)、出版機構(gòu)等多元主體力量。三是實現(xiàn)全過程敏捷治理，不斷探索兼顧發(fā)展、安全、可信的治理路徑。

綜上，專家一致認為，人工智能時代科研不端行為呈現(xiàn)復雜、隱蔽的特征。人應該始終作為科研主體并且承擔首要責任，需明確劃定人工智能在科研應用中的倫理邊界與不同主體的行為規(guī)范，同時關(guān)注安全風險防控。人工智能時代的科研誠信治理需要制度、實踐、教育三方協(xié)同推進。審查監(jiān)管需“以技制技”，同時加強企業(yè)倫理審查機制建設。

作者簡介

譚健英，中國科學院大學公共政策與管理學院博士研究生，中國科學院學部科學規(guī)范與倫理研究支撐中心研究助理。研究方向為科技人才、科技政策;

劉慧暉，中國科學院學部科學規(guī)范與倫理研究支撐中心創(chuàng)新副研究員。研究方向為科技治理;

李瑞，中國科學院學部科學規(guī)范與倫理研究支撐中心助理研究員。研究方向為國家創(chuàng)新體系、新興技術(shù)治理;

王熙婷，中國科學院學部科學規(guī)范與倫理研究支撐中心特別研究助理。研究方向為新興科技治理;

王振宇，中國科學院學部科學規(guī)范與倫理研究支撐中心執(zhí)行主任。研究方向為人工智能科技倫理與治理、生命健康領域科技戰(zhàn)略咨詢、數(shù)智中醫(yī)。

通信作者

王振宇，郵箱地址：wangzhenyu@casisd.cn。

項目資助

中國科學院學部項目" '人工智能時代的科研誠信'科技倫理研討會"(5-XSB2025001)。