人工智能時(shí)代的科研誠(chéng)信

——中國(guó)科學(xué)院學(xué)部2025’科技倫理研討會(huì)會(huì)議綜述

譚健英1,2 劉慧暉2

李瑞2 王熙婷2

王振宇2

(1中國(guó)科學(xué)院大學(xué)公共政策與管理學(xué)院；2中國(guó)科學(xué)院學(xué)部科學(xué)規(guī)范與倫理研究支撐中心)

DOI:10.19524/j.cnki.10-1009/g3.2025.04.170

2025年9月26日，中國(guó)科學(xué)院學(xué)部在北京組織召開2025年度科技倫理研討會(huì)。會(huì)議以“人工智能時(shí)代的科研誠(chéng)信”為主題，圍繞“人工智能時(shí)代科研不端行為的界定、特征及責(zé)任主體認(rèn)定”“人工智能時(shí)代科研不端行為審查與監(jiān)管的技術(shù)博弈”“人工智能在科研中的使用邊界與倫理紅線”“人工智能時(shí)代科研治理誠(chéng)信及實(shí)務(wù)”四個(gè)議題展開研討，對(duì)人工智能時(shí)代的科研誠(chéng)信展開了全方位、多角度、深層次的分析和討論，并就具體問題提出了對(duì)策建議。

參會(huì)人員合影

中國(guó)科學(xué)院學(xué)部科學(xué)道德建設(shè)委員會(huì)主任胡海巖院士在致辭中指出，以ChatGPT為代表的大語(yǔ)言模型相繼問世以來，人工智能在知識(shí)獲取、數(shù)據(jù)分析及學(xué)術(shù)寫作等領(lǐng)域得到廣泛應(yīng)用，學(xué)習(xí)和研究效率顯著提升。但是人工智能的介入根本性地改變了學(xué)術(shù)活動(dòng)的主體構(gòu)成。這種“算法參與”的科研模式帶來了一系列新問題，包括貢獻(xiàn)歸屬難以明確、研究過程不夠透明、結(jié)論可解釋性下降等。此外，人工智能系統(tǒng)潛在的算法偏見及其生成虛假或誤導(dǎo)性信息的風(fēng)險(xiǎn)也不容忽視。他強(qiáng)調(diào)，科研誠(chéng)信是科學(xué)事業(yè)的基石，面對(duì)人工智能帶來的新挑戰(zhàn)，我們要更加堅(jiān)守誠(chéng)信底線，通過協(xié)同治理營(yíng)造良好的科研生態(tài)。

中國(guó)科學(xué)院學(xué)部科學(xué)道德建設(shè)委員會(huì)副主任梅宏院士在引導(dǎo)發(fā)言中指出，人工智能正在逐漸融入科研全過程，在顯著提升科研效率的同時(shí)也帶來風(fēng)險(xiǎn)。他通過案例分享，指出人工智能的科研誠(chéng)信問題主要出現(xiàn)在兩個(gè)環(huán)節(jié)：一是成果的產(chǎn)出，二是成果的表達(dá)。他提出要建立健全主動(dòng)披露和標(biāo)注制度，建立涵蓋大模型開發(fā)者、創(chuàng)作者、使用者的標(biāo)注責(zé)任機(jī)制，推進(jìn)相關(guān)標(biāo)準(zhǔn)和規(guī)范的制定。

南京大學(xué)教授、中國(guó)科學(xué)院院士譚鐵牛從人工智能發(fā)展趨勢(shì)、帶來的科研誠(chéng)信新挑戰(zhàn)和應(yīng)對(duì)之策三個(gè)角度加以闡述。他認(rèn)為，人工智能總體上還處于發(fā)展的初級(jí)階段，人工智能尚存在“多知、少智、無(wú)謀、缺情”等基礎(chǔ)性問題。在新挑戰(zhàn)方面，他通過對(duì)比人工智能生成內(nèi)容和真實(shí)實(shí)驗(yàn)數(shù)據(jù)，闡述了人工智能的“完美造假”，提出人工智能帶來的篡改偽造、成果歸屬、責(zé)任界定等系列挑戰(zhàn)。他指出，通過明確主體責(zé)任、制定各學(xué)科領(lǐng)域的人工智能使用規(guī)范、創(chuàng)新人工智能防偽檢測(cè)和溯源檢測(cè)技術(shù)、強(qiáng)化高?？蒲姓\(chéng)信教育培訓(xùn)、加強(qiáng)國(guó)際合作等多種舉措，共同維護(hù)人工智能時(shí)代的科研誠(chéng)信。

國(guó)家自然科學(xué)基金委員會(huì)原副主任韓宇認(rèn)為，以人為主體的學(xué)術(shù)規(guī)范雖然效果較好，但無(wú)法適用于人機(jī)協(xié)同的人工智能時(shí)代。他指出，在新舊范式轉(zhuǎn)變過程中，人工智能在適應(yīng)科學(xué)發(fā)展要求、責(zé)權(quán)合理分享、影響學(xué)者發(fā)展等維度仍存在問題。他認(rèn)為，需合理構(gòu)建人工智能時(shí)代的新范式，在人智和機(jī)智共存的階段，要堅(jiān)持以人智為核心，堅(jiān)持完善人工智能能力培訓(xùn)，堅(jiān)持批判性創(chuàng)新和包容韌性的學(xué)術(shù)規(guī)范引導(dǎo)，堅(jiān)持馴化人工智能向善。

愛思唯爾（Elsevier）全球期刊中國(guó)區(qū)董事孫巖總經(jīng)理回顧了愛思唯爾的數(shù)字化轉(zhuǎn)型歷程。數(shù)據(jù)顯示，全球人工智能主題文獻(xiàn)僅2024年已經(jīng)達(dá)到近50萬(wàn)篇。在這種背景下，期刊應(yīng)該如何應(yīng)對(duì)人工智能帶來的科研誠(chéng)信問題？她認(rèn)為，人工智能產(chǎn)生的學(xué)術(shù)不端行為可能發(fā)生在出版過程的各個(gè)環(huán)節(jié)，要“兩手抓”：一手抓技術(shù)與人才，一手抓標(biāo)準(zhǔn)與協(xié)作。開發(fā)一流的誠(chéng)信檢查工具，培養(yǎng)科研誠(chéng)信領(lǐng)域?qū)I(yè)人才；制定面向作者、編輯、審稿人的生成式人工智能學(xué)術(shù)規(guī)范，并用于實(shí)踐，構(gòu)建人工智能科研誠(chéng)信新生態(tài)。

中國(guó)科學(xué)院自動(dòng)化研究所宗成慶研究員重點(diǎn)闡述了大模型為科技規(guī)范和社會(huì)倫理帶來的挑戰(zhàn)。他提出，大模型帶來訓(xùn)練數(shù)據(jù)真實(shí)性與合法性、數(shù)據(jù)開放與版權(quán)保護(hù)、人機(jī)責(zé)任認(rèn)定等挑戰(zhàn)。在人工智能使用規(guī)范方面，他認(rèn)為，要積極擁抱新技術(shù)。對(duì)于學(xué)生，應(yīng)制定相應(yīng)學(xué)術(shù)規(guī)范加以引導(dǎo)，合理運(yùn)用人工智能技術(shù)；對(duì)于其他成人，沒有理由也沒有必要限制其使用人工智能工具。

中國(guó)科學(xué)院文獻(xiàn)情報(bào)中心馬娜副研究館員指出，科學(xué)研究的嚴(yán)謹(jǐn)性需要準(zhǔn)確的知識(shí)庫(kù)、文獻(xiàn)庫(kù)、數(shù)據(jù)庫(kù)作為“智囊”。為確保人工智能時(shí)代期刊論文的高質(zhì)量，Science等國(guó)際出版機(jī)構(gòu)制定了出版規(guī)范。在數(shù)據(jù)方面，采用強(qiáng)制或建議作者提交研究數(shù)據(jù)，并開放共享的方式，推動(dòng)科學(xué)研究的透明性、可信性；在署名方面，學(xué)術(shù)期刊應(yīng)明確人工智能系統(tǒng)不能以作者身份出現(xiàn)，作者需對(duì)論文完全負(fù)責(zé)。

中國(guó)科學(xué)技術(shù)信息研究所科學(xué)計(jì)量與評(píng)價(jià)中心副主任楊代慶研究員圍繞學(xué)術(shù)論文中人工智能使用邊界標(biāo)準(zhǔn)化問題，重點(diǎn)介紹了《學(xué)術(shù)出版中AIGC使用邊界指南2.0》，從資料收集、論文撰寫、出版發(fā)表的各階段劃定了清晰的“紅黃藍(lán)線”標(biāo)準(zhǔn)，這是人工智能使用的有效實(shí)踐指導(dǎo)，有望走向國(guó)際化。

北京航空航天大學(xué)和鴻鵬副教授基于案例和調(diào)查研究數(shù)據(jù)，闡述了生成式人工智能的學(xué)術(shù)應(yīng)用潛力，但也指出其帶來了難以認(rèn)定的學(xué)術(shù)剽竊、隱蔽性的數(shù)據(jù)泄露、自增強(qiáng)的虛假信息等科研倫理問題。他認(rèn)為，要走出人工智能誘發(fā)的學(xué)術(shù)倫理困境，應(yīng)立足“從無(wú)到有、先有后優(yōu)”的政策思路，對(duì)已有學(xué)術(shù)誠(chéng)信政策做出調(diào)整，并出臺(tái)生成式人工智能學(xué)術(shù)使用指南。

主旨報(bào)告之后，專家圍繞四個(gè)議題進(jìn)行了深入交流。在“人工智能時(shí)代科研不端行為的界定、特征及責(zé)任主體認(rèn)定”方面，大家普遍認(rèn)為人工智能的科研不端行為具有復(fù)雜、隱蔽、難識(shí)別的特點(diǎn)，容易引發(fā)科研誠(chéng)信治理重構(gòu)以及科研生態(tài)變化的問題。多數(shù)專家認(rèn)為人應(yīng)作為科研主體，并承擔(dān)主要責(zé)任。研究人員要全面審查人工智能生成內(nèi)容，反對(duì)“圖片誤用”等推卸責(zé)任的行為。但是在科研誠(chéng)信問題與人工智能的關(guān)系方面，專家存在分歧。部分專家認(rèn)為，科研不端行為本質(zhì)仍屬偽造、篡改、抄襲范疇，人工智能僅是引發(fā)治理重構(gòu)的技術(shù)誘因；另一部分專家則認(rèn)為，人工智能的介入使科研誠(chéng)信問題產(chǎn)生了新屬性，需區(qū)分與人工智能相關(guān)的誠(chéng)信問題和傳統(tǒng)誠(chéng)信問題。

在“人工智能時(shí)代科研不端行為審查與監(jiān)管的技術(shù)博弈”方面，專家一致認(rèn)為，人工智能既可能成為不端行為的幫兇，也可能成為監(jiān)督的利器，如何在攻與防的博弈中保持動(dòng)態(tài)平衡，是科研誠(chéng)信治理的重要問題。關(guān)鍵對(duì)策包括：一是“以技制技”，開發(fā)高級(jí)誠(chéng)信審查工具，從技術(shù)層面引導(dǎo)人工智能的規(guī)范使用，實(shí)現(xiàn)“從內(nèi)到外”的風(fēng)險(xiǎn)預(yù)防；二是強(qiáng)化特殊領(lǐng)域監(jiān)管，尤其需加強(qiáng)對(duì)生命科學(xué)企業(yè)的倫理審查。

在“人工智能在科研中的使用邊界與倫理紅線”方面，專家提出需要明確三大核心紅線。一是責(zé)任歸屬紅線，即在數(shù)據(jù)生成、成果界定及引用標(biāo)注等關(guān)鍵環(huán)節(jié)，必須始終由研究者承擔(dān)主體責(zé)任。二是能力替代紅線，需明確科研中諸如價(jià)值判斷、實(shí)驗(yàn)設(shè)計(jì)及結(jié)果闡釋等核心環(huán)節(jié)，不應(yīng)完全交由人工智能完成。三是主體規(guī)范紅線，科研共同體需制定統(tǒng)一的人工智能使用規(guī)范和標(biāo)注機(jī)制。國(guó)家自然科學(xué)基金委員會(huì)提供了實(shí)踐標(biāo)準(zhǔn)，在進(jìn)行科研不端行為調(diào)查處理中重點(diǎn)把握以下三點(diǎn)：申請(qǐng)人不允許使用人工智能生成申報(bào)材料；評(píng)審專家經(jīng)批準(zhǔn)的情況下可以使用人工智能評(píng)審；項(xiàng)目負(fù)責(zé)人合理披露研究中使用的人工智能。

在“人工智能時(shí)代科研誠(chéng)信治理及實(shí)務(wù)”方面，專家普遍認(rèn)可人工智能帶來的科研誠(chéng)信的挑戰(zhàn)需要制度、實(shí)踐、教育協(xié)同推進(jìn)。一是完善科研倫理制度體系，從軟法到硬法體系化分層分類、有針對(duì)性地采取措施。二是采取多方聯(lián)動(dòng)組合的方式，建立群防群治的格局，整合科研機(jī)構(gòu)、企業(yè)、出版機(jī)構(gòu)等多元主體力量。三是實(shí)現(xiàn)全過程敏捷治理，不斷探索兼顧發(fā)展、安全、可信的治理路徑。

綜上，專家一致認(rèn)為，人工智能時(shí)代科研不端行為呈現(xiàn)復(fù)雜、隱蔽的特征。人應(yīng)該始終作為科研主體并且承擔(dān)首要責(zé)任，需明確劃定人工智能在科研應(yīng)用中的倫理邊界與不同主體的行為規(guī)范，同時(shí)關(guān)注安全風(fēng)險(xiǎn)防控。人工智能時(shí)代的科研誠(chéng)信治理需要制度、實(shí)踐、教育三方協(xié)同推進(jìn)。審查監(jiān)管需“以技制技”，同時(shí)加強(qiáng)企業(yè)倫理審查機(jī)制建設(shè)。

作者簡(jiǎn)介

譚健英，中國(guó)科學(xué)院大學(xué)公共政策與管理學(xué)院博士研究生，中國(guó)科學(xué)院學(xué)部科學(xué)規(guī)范與倫理研究支撐中心研究助理。研究方向?yàn)榭萍既瞬?、科技政?

劉慧暉，中國(guó)科學(xué)院學(xué)部科學(xué)規(guī)范與倫理研究支撐中心創(chuàng)新副研究員。研究方向?yàn)榭萍贾卫?

李瑞，中國(guó)科學(xué)院學(xué)部科學(xué)規(guī)范與倫理研究支撐中心助理研究員。研究方向?yàn)閲?guó)家創(chuàng)新體系、新興技術(shù)治理;

王熙婷，中國(guó)科學(xué)院學(xué)部科學(xué)規(guī)范與倫理研究支撐中心特別研究助理。研究方向?yàn)樾屡d科技治理;

王振宇，中國(guó)科學(xué)院學(xué)部科學(xué)規(guī)范與倫理研究支撐中心執(zhí)行主任。研究方向?yàn)槿斯ぶ悄芸萍紓惱砼c治理、生命健康領(lǐng)域科技戰(zhàn)略咨詢、數(shù)智中醫(yī)。

通信作者

王振宇，郵箱地址：wangzhenyu@casisd.cn。

項(xiàng)目資助

中國(guó)科學(xué)院學(xué)部項(xiàng)目" '人工智能時(shí)代的科研誠(chéng)信'科技倫理研討會(huì)"(5-XSB2025001)。