筑牢倫理基石，賦能創(chuàng)新發(fā)展

——深入解讀《人工智能科技倫理審查與服務(wù)辦法（試行）》

作者：敖立 中國信息通信研究院副院長

工業(yè)和信息化領(lǐng)域科技倫理專家委員會(huì)副主任委員

科技創(chuàng)新，倫理先行。

科技倫理是人類社會(huì)倫理價(jià)值在科技領(lǐng)域的延伸與拓展，是開展科學(xué)研究、技術(shù)開發(fā)等科技活動(dòng)需遵循的價(jià)值理念與行為規(guī)范。習(xí)近平總書記高度重視科技倫理建設(shè)，2021 年 12 月 17 日，在主持中央全面深化改革委員會(huì)第二十三次會(huì)議時(shí)強(qiáng)調(diào)：“科技倫理是科技活動(dòng)必須遵守的價(jià)值準(zhǔn)則，要堅(jiān)持增進(jìn)人類福祉、尊重生命權(quán)利、公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明的原則，健全多方參與、協(xié)同共治的治理體制機(jī)制，塑造科技向善的文化理念和保障機(jī)制?！?023 年 10 月，習(xí)近平總書記提出《全球人工智能治理倡議》，明確“堅(jiān)持倫理先行，建立并完善人工智能科技倫理準(zhǔn)則、規(guī)范及問責(zé)機(jī)制，形成人工智能科技倫理指南，建立科技倫理審查和監(jiān)管制度，明確人工智能相關(guān)主體的責(zé)任和權(quán)力邊界”。 這些重要論述深刻闡明了科技倫理對保障科技安全的意義，為加強(qiáng)科技倫理治理提供了根本遵循。

近日，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡稱《辦法》），對人工智能科技倫理審查與服務(wù)提出明確要求，這是深入貫徹習(xí)近平總書記重要論述，促進(jìn)人工智能產(chǎn)業(yè)科技創(chuàng)新高質(zhì)量發(fā)展和高水平安全良性互動(dòng)的重要舉措。

01

科技倫理引導(dǎo)人工智能健康有序發(fā)展

近年來，在技術(shù)創(chuàng)新與商業(yè)應(yīng)用的雙輪驅(qū)動(dòng)下，人工智能正加速與實(shí)體經(jīng)濟(jì)深度融合。其不僅在互聯(lián)網(wǎng)等數(shù)字原生領(lǐng)域?qū)崿F(xiàn)規(guī)?；瘧?yīng)用，還逐步滲透到金融、醫(yī)療、交通等行業(yè)，在重要場景中的賦能成效顯著。然而，隨著技術(shù)快速演進(jìn)與應(yīng)用領(lǐng)域拓展，人工智能帶來的倫理問題愈發(fā)凸顯。例如，生成式人工智能對社會(huì)公平、隱私保護(hù)、社會(huì)信任及可持續(xù)發(fā)展等倫理價(jià)值造成沖擊。

人工智能科技倫理治理是引導(dǎo)科技創(chuàng)新方向的“指南針”。一方面，它能引導(dǎo)企業(yè)開展符合倫理要求的技術(shù)創(chuàng)新，推動(dòng)研發(fā)團(tuán)隊(duì)將倫理要求貫穿于人工智能研發(fā)應(yīng)用全過程，避免單純追求技術(shù)性能而忽視潛在倫理風(fēng)險(xiǎn)；另一方面，能有效促進(jìn)倫理相關(guān)技術(shù)研發(fā)，如可解釋性人工智能技術(shù)、隱私增強(qiáng)技術(shù)等。此類技術(shù)突破不僅有助于解決當(dāng)前人工智能面臨的倫理困境，還能開拓新的技術(shù)應(yīng)用領(lǐng)域。

人工智能科技倫理治理是促進(jìn)產(chǎn)業(yè)健康發(fā)展的“方向盤”。通過治理，能有效解決人工智能應(yīng)用中的倫理問題，如隱私保護(hù)、偏見歧視等，增強(qiáng)公眾對人工智能的信任，為其廣泛應(yīng)用奠定堅(jiān)實(shí)基礎(chǔ)。以醫(yī)療領(lǐng)域?yàn)槔蟼惱硪蟮娜斯ぶ悄茌o助診斷系統(tǒng)能更好地協(xié)助醫(yī)生進(jìn)行疾病診斷與治療方案制定，提高醫(yī)療服務(wù)的準(zhǔn)確性與效率，推動(dòng)人工智能在醫(yī)療行業(yè)的深度融合，開拓龐大市場。同時(shí)，倫理治理能規(guī)范產(chǎn)業(yè)行為，降低倫理風(fēng)險(xiǎn)，為產(chǎn)業(yè)營造良好發(fā)展環(huán)境，促進(jìn)其長期穩(wěn)定發(fā)展。

人工智能科技倫理治理是提升國家競爭力的“助推器”。當(dāng)前，人工智能科技倫理治理已成為全球關(guān)注焦點(diǎn)。聯(lián)合國教科文組織于 2021年11月發(fā)布《人工智能科技倫理問題建議書》，歐盟、美國、日本等國家和地區(qū)也通過建立人工智能專家委員會(huì)等方式，推動(dòng)負(fù)責(zé)任的人工智能技術(shù)發(fā)展。良好的倫理治理環(huán)境，一方面能吸引更多國際合作伙伴，促進(jìn)產(chǎn)業(yè)合作與交流；另一方面，能在全球范圍內(nèi)樹立我國人工智能企業(yè)負(fù)責(zé)任的形象，助力相關(guān)產(chǎn)品和服務(wù)獲得國際市場認(rèn)可，提升國際競爭力。

02

服務(wù)人工智能行業(yè)發(fā)展，聚焦科技倫理治理重點(diǎn)問題

（一）加強(qiáng)科技倫理服務(wù)，支持促進(jìn)人工智能科技倫理發(fā)展

與《科技倫理審查辦法（試行）》相比，《辦法》增設(shè)第二章 “服務(wù)與促進(jìn)”，從標(biāo)準(zhǔn)建設(shè)、促進(jìn)服務(wù)、鼓勵(lì)創(chuàng)新、宣傳教育、人才培養(yǎng)五個(gè)方面提出舉措，賦能產(chǎn)業(yè)發(fā)展。當(dāng)前，全球人工智能科技倫理治理已進(jìn)入快車道，治理重點(diǎn)從倫理原則轉(zhuǎn)向落地實(shí)施，推動(dòng)治理技術(shù)化、工程化、標(biāo)準(zhǔn)化成為關(guān)鍵。我國人工智能科技倫理治理面臨技術(shù)手段待突破、治理缺乏統(tǒng)一標(biāo)準(zhǔn)、工具匱乏等挑戰(zhàn)，需通過鼓勵(lì)技術(shù)創(chuàng)新、制定倫理標(biāo)準(zhǔn)、推進(jìn)倫理服務(wù)等方式應(yīng)對。此外，人工智能科技倫理治理不僅是技術(shù)問題，更是社會(huì)問題，因此通過宣傳教育提升公眾倫理素養(yǎng)、通過人才培養(yǎng)加強(qiáng)科研人員倫理意識(shí)，是防范倫理風(fēng)險(xiǎn)的重要舉措。

二立足人工智能特點(diǎn)，促進(jìn)人工智能科技倫理審查落地

《科技倫理審查辦法（試行）》是覆蓋各領(lǐng)域科技倫理審查的綜合性規(guī)定，對審查基本程序、標(biāo)準(zhǔn)、條件等提出統(tǒng)一要求。與生命科學(xué)、醫(yī)學(xué)相比，人工智能科技倫理因技術(shù)特征具有獨(dú)有特點(diǎn)，如倫理責(zé)任主體的泛化、倫理原則的側(cè)重點(diǎn)差異等。因此，《辦法》在遵循通用辦法基礎(chǔ)上，充分考慮人工智能特點(diǎn)，在適用范圍、申請材料、審查重點(diǎn)、簡易程序適用等方面進(jìn)一步完善細(xì)化，以更適用于人工智能科技倫理審查。例如，《辦法》第十五條規(guī)定，人工智能科技倫理審查除關(guān)注科技人員資質(zhì)、積極作用、風(fēng)險(xiǎn)控制方案等常規(guī)內(nèi)容外，還需遵守增進(jìn)人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)等人工智能科技倫理要求。

三優(yōu)化倫理治理，盡量降低創(chuàng)新主體倫理管理成本

考慮到中小企業(yè)難以成立科技倫理委員會(huì)的現(xiàn)實(shí)，《辦法》提出建設(shè)專業(yè)性人工智能科技倫理服務(wù)中心（以下簡稱“服務(wù)中心”）。第十一條對 “服務(wù)中心” 的設(shè)立、業(yè)務(wù)、要求進(jìn)行細(xì)化，明確其可接受中小企業(yè)委托，提供倫理服務(wù)。為避免重復(fù)監(jiān)管，《辦法》第二十四條規(guī)定了與其他監(jiān)管措施的銜接。此前，網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度核查管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等文件，已將符合科技倫理要求作為審批條件或監(jiān)管內(nèi)容，針對此類人工智能科技活動(dòng)，可不再開展專家復(fù)核，大幅降低了企業(yè)合規(guī)成本。

03

不斷完善人工智能治理生態(tài)，筑牢人工智能產(chǎn)業(yè)健康發(fā)展根基

當(dāng)前，人工智能科技倫理治理仍面臨不少現(xiàn)實(shí)挑戰(zhàn)。一是技術(shù)迭代快于治理規(guī)則完善，新場景、新應(yīng)用不斷涌現(xiàn)，倫理風(fēng)險(xiǎn)具有隱蔽性、突發(fā)性、不可預(yù)測性，現(xiàn)有規(guī)范難以全面覆蓋。二是倫理原則落地難，企業(yè)面臨產(chǎn)品性能和倫理要求的平衡，管理成本高。三是治理支撐體系尚不完善，缺乏國際權(quán)威的第三方倫理測評標(biāo)準(zhǔn)和認(rèn)證體系。未來，應(yīng)以《辦法》出臺(tái)為契機(jī)，堅(jiān)持發(fā)展和安全并重，不斷完善治理生態(tài)，推動(dòng)人工智能產(chǎn)業(yè)高質(zhì)量和可持續(xù)發(fā)展。

一推行敏捷治理以柔性監(jiān)管護(hù)航技術(shù)創(chuàng)新

一是健全政府與創(chuàng)新主體常態(tài)化溝通協(xié)作機(jī)制，建立倫理風(fēng)險(xiǎn)信息共享、協(xié)同處置的工作格局。二是減少事前剛性約束，鼓勵(lì)企業(yè)創(chuàng)新，在守住安全底線的前提下，允許企業(yè)在盡到合理監(jiān)管義務(wù)時(shí)容錯(cuò)糾錯(cuò)。三是建立技術(shù)發(fā)展與倫理風(fēng)險(xiǎn)動(dòng)態(tài)監(jiān)測機(jī)制，及時(shí)完善政策規(guī)范，實(shí)現(xiàn)治理與技術(shù)發(fā)展同頻共振。

二深化協(xié)同共治，以多元參與筑牢責(zé)任鏈條

一是完善政府、企業(yè)、科研機(jī)構(gòu)、科技社團(tuán)組織、社會(huì)公眾等共同參與的多元治理體系，明確各方定位與職責(zé)。二是健全“政府引導(dǎo) + 企業(yè)自律 + 第三方支撐” 的協(xié)同運(yùn)行模式，將倫理要求嵌入人工智能全生命周期。三是加強(qiáng)科技倫理科普與培訓(xùn)，通過多種渠道、豐富的傳播方式，拓寬科技倫理投訴渠道，營造全社會(huì)共同關(guān)注、共同參與、共同監(jiān)督的良好生態(tài)。

三夯實(shí)基礎(chǔ)支撐，以標(biāo)準(zhǔn)工具提升治理效能

一是加快出臺(tái)人工智能科技倫理風(fēng)險(xiǎn)評估、審查程序、審查委員會(huì)等配套標(biāo)準(zhǔn)，為創(chuàng)新主體提供可操作、可落地的規(guī)范指引。二是搭建科技倫理公共服務(wù)平臺(tái)，推進(jìn)科技倫理服務(wù)中心建設(shè)，提供專業(yè)的倫理審查、教育培訓(xùn)、專家咨詢等服務(wù)，降低中小企業(yè)治理成本。三是加強(qiáng)治理技術(shù)和工具研發(fā)，推動(dòng)構(gòu)建人工智能倫理治理開源社區(qū)，推動(dòng)治理工具、數(shù)據(jù)集開源開放，以技術(shù)賦能提升治理成效。

04

結(jié)語

中國信息通信研究院作為工業(yè)和信息化領(lǐng)域科技倫理專家委員會(huì)秘書處單位，將在工業(yè)和信息化部的指導(dǎo)下，充分發(fā)揮在人工智能政策研究、標(biāo)準(zhǔn)制定、技術(shù)評測等方面的優(yōu)勢，深化科技倫理治理支撐，保障《辦法》有效落實(shí)。

一是搭建人工智能科技倫理產(chǎn)業(yè)服務(wù)平臺(tái)。開展科技倫理宣傳教育，開發(fā)人工智能科技倫理審查、測評工具，促進(jìn)治理工具開源開放。

二是探索成立人工智能科技倫理服務(wù)中心。接受相關(guān)部門委托，承擔(dān)人工智能科技倫理專家復(fù)核工作，并為企業(yè)、高校、科研院所等單位提供科技倫理審查、咨詢、培訓(xùn)等服務(wù)。

三是持續(xù)推動(dòng)人工智能科技倫理標(biāo)準(zhǔn)制定工作。在工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)下，持續(xù)推動(dòng)人工智能科技倫理風(fēng)險(xiǎn)評估、科技倫理委員會(huì)、科技倫理服務(wù)中心、科技倫理審查程序、科技倫理審查人員技術(shù)技能要求等標(biāo)準(zhǔn)制定工作。

四是積極開展人工智能科技倫理治理國際交流合作。加強(qiáng)與國外研究機(jī)構(gòu)的合作，依托國際人工智能領(lǐng)域的高端峰會(huì)等組織研討活動(dòng)，宣傳人工智能科技倫理治理的“中國方案”。

財(cái)報(bào)直擊 | 中國電信2025年?duì)I收5296億元，利潤332億元

財(cái)報(bào)直擊 | 中國移動(dòng)2025年?duì)I收10502億元

重構(gòu)財(cái)報(bào)直擊 | 2025年中國聯(lián)通營收3922億元，凈利潤連續(xù)6年攀升

責(zé)編/版式：梅雅鑫

審校：梅雅鑫

監(jiān)制：劉啟誠

【媒體矩陣】

今日頭條 | 微博 | 微軟MSN | 百家號(hào)

網(wǎng)易號(hào) | 人民號(hào) | 騰訊新聞 | 搜狐

新浪看點(diǎn) | 雪球號(hào) | 知乎

【運(yùn)營團(tuán)隊(duì)】

編輯｜梅雅鑫 孫天 朱文鳳

審校 | 梅雅鑫

監(jiān)制｜劉啟誠