走出去智庫（CGGT）觀察

由走出去智庫（CGGT）提供學(xué)術(shù)資源支持的《深圳法治評論》2025年第二期《專論》欄目聚焦“創(chuàng)新自動駕駛汽車管理制度體系”，約請法律專家建言獻(xiàn)策。

北京科技創(chuàng)新中心研究基地副主任趙精武的文章《科技倫理嵌入人工智能治理體系嵌入路徑研究——以自動駕駛應(yīng)用場景為例》對科技倫理嵌入人工智能治理體系嵌入路徑進(jìn)行了研究，提出應(yīng)當(dāng)對自動駕駛汽車面臨的各種風(fēng)險進(jìn)行一體式評估，并根據(jù)確認(rèn)的不同風(fēng)險的情形，采取針對性的治理機(jī)制。

《深圳法治評論》由中共深圳市委全面依法治市委員會辦公室、深圳市司法局主辦，定位于高端領(lǐng)導(dǎo)決策讀物，聚焦深圳法治建設(shè)，刊發(fā)高水平、可實操的應(yīng)用性政策研究，輔助市領(lǐng)導(dǎo)及本市黨政機(jī)關(guān)領(lǐng)導(dǎo)干部法治建設(shè)方面決策，為支持深圳建設(shè)中國特色社會主義法治先行示范城市建言獻(xiàn)策。《深圳法治評論》在2020-2024年連續(xù)五年榮膺深圳內(nèi)刊傳媒獎之“優(yōu)秀城市內(nèi)刊獎”。自2020年創(chuàng)刊起，走出去智庫（CGGT）即為該高端決策讀物提供學(xué)術(shù)資源支持。

今天，走出去智庫（CGGT）微信公眾號刊發(fā)北京科技創(chuàng)新中心研究基地副主任趙精武的文章，供關(guān)注自動駕駛汽車法規(guī)的讀者參考。

要點

1、人工智能技術(shù)治理的核心目標(biāo)是統(tǒng)籌兼顧科技創(chuàng)新和科技安全，因為這兩種治理目標(biāo)的權(quán)衡狀態(tài)并沒有唯一正解，所以才需要通過科技倫理治理機(jī)制所形成的倫理協(xié)商空間，推動不同主體對這兩類目標(biāo)的實現(xiàn)方式達(dá)成最大化共識。

2、人工智能技術(shù)風(fēng)險的解決需要政府機(jī)構(gòu)與非政府機(jī)構(gòu)共同自由參與技術(shù)治理活動，通過事前細(xì)分具體的風(fēng)險類型，并借由不同的治理工具及其銜接路徑發(fā)揮各自的治理效用，實現(xiàn)一致性的技術(shù)治理目標(biāo)。

3、在自動駕駛領(lǐng)域中，科技倫理治理機(jī)制需要與其他治理機(jī)制協(xié)同工作，以識別、評估、預(yù)防和控制安全風(fēng)險。

正文

科技倫理嵌入人工智能治理體系嵌入路徑研究

——以自動駕駛應(yīng)用場景為例

文/趙精武

北京科技創(chuàng)新中心研究基地副主任

在當(dāng)下，以 Deepseek 為代表的人工智能技術(shù)最為熱門的核心研究議題是如何充分實現(xiàn)人工智能技術(shù)的社會效益并控制潛在技術(shù)風(fēng)險。同時，法律風(fēng)險、科技倫理風(fēng)險等多元化風(fēng)險類型相互交織，使得技術(shù)治理實踐需要采取一種更為綜合性的治理模式，全局性地解決技術(shù)應(yīng)用的風(fēng)險多元化問題。然而，人工智能治理框架下的多元治理機(jī)制之間彼此如何有效銜接、如何明確機(jī)制差異等問題尚未得到很好地解決。因此，有必要重新審視科技倫理治理機(jī)制如何嵌入人工智能技術(shù)治理體系，并協(xié)調(diào)其與法律、市場、技術(shù)等其他治理機(jī)制之間的銜接。

人工智能科技倫理治理的理論基礎(chǔ)與常見范式

科技倫理治理的治理目標(biāo)與治理理論

科技倫理治理實質(zhì)上是一種方向性、目標(biāo)性治理，表現(xiàn)為“以倫理為原則為指導(dǎo)，解決科技發(fā)展面臨的倫理問題和社會問題、增進(jìn)科學(xué)技術(shù)為人的福祉而發(fā)展的各種方式的總和”。在多元文化背景下，形成統(tǒng)一的科技倫理共識存在難度，為此，科技倫理治理通過采取倫理原則與審查的方式，將抽象的倫理價值聚焦于具體的技術(shù)應(yīng)用方式，促成概括性倫理規(guī)范向可視化應(yīng)用標(biāo)準(zhǔn)的轉(zhuǎn)變。

人工智能科技倫理的治理功能

科技倫理治理模式的最終治理目標(biāo)是在盡可能不影響科研自由和科技創(chuàng)新空間的情況下提供倫理方向的“優(yōu)化建議”。人工智能技術(shù)治理的核心目標(biāo)是統(tǒng)籌兼顧科技創(chuàng)新和科技安全，因為這兩種治理目標(biāo)的權(quán)衡狀態(tài)并沒有唯一正解，所以才需要通過科技倫理治理機(jī)制所形成的倫理協(xié)商空間，推動不同主體對這兩類目標(biāo)的實現(xiàn)方式達(dá)成最大化共識?？偨Y(jié)而言，科技倫理治理功能的實現(xiàn)方式是以開放式的科技倫理吸納社會群體意見，使得科技創(chuàng)新活動無限趨近于理想狀態(tài)。

人工智能科技倫理治理功能包括引導(dǎo)、協(xié)商、識別和反饋四項功能，它們能夠發(fā)揮有別于其他治理機(jī)制的規(guī)范性作用。其中，引導(dǎo)功能強(qiáng)調(diào)科技創(chuàng)新活動應(yīng)遵循社會共識性的科技倫理原則；協(xié)商功能通過開放式的公共對話尋求科技倫理共識；識別功能用于判斷科技創(chuàng)新活動的合理性并發(fā)現(xiàn)潛在倫理風(fēng)險；反饋功能則通過評價結(jié)果促使科技創(chuàng)新活動自我調(diào)整，避免出現(xiàn)重復(fù)倫理問題。

人工智能科技倫理治理的常見機(jī)制

科技倫理治理的引導(dǎo)、協(xié)商、識別和反饋四項功能對應(yīng)了四類科技倫理治理機(jī)制：其一，引導(dǎo)功能延伸出行業(yè)指引性治理機(jī)制，包括監(jiān)管機(jī)構(gòu)事前制定科技創(chuàng)新產(chǎn)業(yè)規(guī)劃、最佳實踐范例等。其二，協(xié)商功能延伸出科技倫理治理公眾參與機(jī)制，通過征求社會公眾意見等方式，探討并達(dá)成共識性的倫理原則。其三，識別機(jī)制延伸出科技倫理審查機(jī)制、科技倫理研判機(jī)制等治理機(jī)制。其四，反饋功能延伸出科技倫理管理監(jiān)督機(jī)制、科技倫理整改督促機(jī)制等優(yōu)化改良型治理機(jī)制。

上述四項功能彼此之間存在銜接關(guān)系，也使得相應(yīng)的科技倫理治理機(jī)制呈現(xiàn)體系化銜接關(guān)系。此外，在反饋功能所確立的治理機(jī)制作用下，科技倫理審查所作出的道德判斷以及專家建議又會反饋至被審查對象，再次實現(xiàn)具體技術(shù)應(yīng)用領(lǐng)域的科技倫理引導(dǎo)功能，進(jìn)而達(dá)成科技倫理治理的功能循環(huán)。

由于科技倫理治理機(jī)制會隨著倫理規(guī)范的內(nèi)容創(chuàng)新而有所變化，因此科技倫理治理嵌入人工智能治理體系過程中的核心問題在于如何明確科技倫理治理功能可以與哪些治理機(jī)制進(jìn)行銜接。

人工智能科技倫理治理的嵌入路徑

科技倫理嵌入的理論前提：風(fēng)險識別

在人工智能治理體系中，風(fēng)險識別既是確保技術(shù)安全的重要保障，也是促進(jìn)科技高質(zhì)量創(chuàng)新的基礎(chǔ)要件。人工智能技術(shù)風(fēng)險的解決需要政府機(jī)構(gòu)與非政府機(jī)構(gòu)共同自由參與技術(shù)治理活動，通過事前細(xì)分具體的風(fēng)險類型，并借由不同的治理工具及其銜接路徑發(fā)揮各自的治理效用，實現(xiàn)一致性的技術(shù)治理目標(biāo)。

在科技倫理風(fēng)險層面，廣義社會風(fēng)險論與狹義倫理風(fēng)險論在具體風(fēng)險樣態(tài)的涵蓋范圍上存在分歧，無法有效銜接科技倫理治理與法律治理。對此，科技倫理風(fēng)險的核心樣態(tài)應(yīng)當(dāng)是科技發(fā)展與人類倫理觀念的不適配狀態(tài)，人工智能科技倫理風(fēng)險的發(fā)現(xiàn)、識別和確認(rèn)應(yīng)當(dāng)是以科技倫理觀念為基礎(chǔ)，而不是以法律意義上的權(quán)益保障為中心 。

科技倫理治理機(jī)制的個體化嵌入

在單一面向科技倫理風(fēng)險時，科技倫理治理機(jī)制的嵌入方式應(yīng)當(dāng)是完成單一風(fēng)險治理的內(nèi)在邏輯體系銜接，即建構(gòu)科技倫理風(fēng)險研判管理機(jī)制、科技倫理風(fēng)險識別評估機(jī)制和科技倫理風(fēng)險反饋應(yīng)對機(jī)制三個部分。

科技倫理風(fēng)險研判管理機(jī)制屬于預(yù)期性治理機(jī)制。在法學(xué)領(lǐng)域，當(dāng)前人工智能科技倫理研究聚焦于諸如歧視偏見等倫理問題。面對超出可預(yù)見范圍的各類技術(shù)風(fēng)險，在難以準(zhǔn)確預(yù)測潛在風(fēng)險的情況下，需要采取靈活的科技倫理規(guī)范，引導(dǎo)科技創(chuàng)新活動自覺采取有利于社會公共利益的方式進(jìn)行。

科技倫理風(fēng)險識別評估機(jī)制屬于風(fēng)險確認(rèn)型治理機(jī)制，核心在于確認(rèn)科技倫理風(fēng)險的范圍。并且，風(fēng)險識別評估機(jī)制的內(nèi)容設(shè)置強(qiáng)調(diào)多元知識背景的行為主體共同參與，盡可能避免評估的個人主觀性和專業(yè)導(dǎo)向性。此外，該機(jī)制的主要功能是發(fā)現(xiàn)和確認(rèn)科技倫理風(fēng)險的基本類型。

科技倫理風(fēng)險反饋應(yīng)對機(jī)制屬于風(fēng)險應(yīng)對型治理機(jī)制，主要將風(fēng)險識別評估機(jī)制所作出的道德判斷反饋至科技創(chuàng)新機(jī)構(gòu)與人員。這種應(yīng)對機(jī)制既包括將倫理風(fēng)險識別結(jié)果和專家建議反饋至被審查對象的即時性反饋，也包括監(jiān)管機(jī)構(gòu)結(jié)合科技倫理治理實踐，以禁止性清單形式反饋具有高風(fēng)險水平的特定科技創(chuàng)新活動的群體性反饋。

科技倫理治理機(jī)制的銜接式嵌入

在明確科技倫理治理機(jī)制在人工智能治理體系中的單向嵌入路徑后，還需要考量該治理機(jī)制如何與法律、技術(shù)、市場等其他治理機(jī)制進(jìn)行銜接?？萍紓惱碇卫砼c其他治理機(jī)制的銜接方式表現(xiàn)為：倫理與法律的銜接方式是建構(gòu)科技倫理審查制度，將敏感研究領(lǐng)域的科技創(chuàng)新活動納入審查活動中，并在區(qū)分強(qiáng)制審查和自愿審查的前提下，將是否依法進(jìn)行強(qiáng)制審查以及審查結(jié)果作為判斷科技創(chuàng)新主體對損害事實是否存在主觀過錯的標(biāo)準(zhǔn)。

在倫理與技術(shù)層面，面對人工智能技術(shù)未來發(fā)展的不確定性，在治理體系中需要發(fā)揮科技倫理治理的引導(dǎo)功能，將工程倫理、職業(yè)道德培訓(xùn)嵌入至科技創(chuàng)新活動。

倫理與市場的銜接主要是通過行業(yè)自律規(guī)范實現(xiàn)，具體表現(xiàn)為制定共識性的自律規(guī)范與將科技倫理規(guī)范融入行業(yè)自律規(guī)范的范疇兩個方面。

人工智能科技倫理治理嵌入式建構(gòu)實例：以自動駕駛應(yīng)用為例

在前述治理機(jī)制的嵌入建構(gòu)框架下，自動駕駛技術(shù)的倫理治理規(guī)則可劃分為以下三個步驟逐步建構(gòu)。

第一步：自動駕駛科技倫理風(fēng)險的分析識別

自動駕駛技術(shù)的應(yīng)用涉及安全價值保護(hù)位階的問題。在行車遭遇緊急情況時，自動駕駛系統(tǒng)是應(yīng)優(yōu)先保護(hù)車內(nèi)駕駛?cè)?，還是在權(quán)衡車內(nèi)外實際損害結(jié)果后再行選擇，成為自動駕駛普及應(yīng)用的一大倫理難題。行車安全的倫理價值觀念是由制造商、信息系統(tǒng)開發(fā)者還是倫理學(xué)或法學(xué)專家決定也存在爭議。另外，自動駕駛技術(shù)應(yīng)用引發(fā)的失業(yè)風(fēng)險問題應(yīng)歸屬于就業(yè)公共政策范疇，而非科技倫理風(fēng)險領(lǐng)域。

基于人工智能治理目標(biāo)，科技倫理風(fēng)險的判斷標(biāo)準(zhǔn)應(yīng)是科技創(chuàng)新是否合理以及不合理的科技創(chuàng)新活動是否造成人類主體尊嚴(yán)的貶損。在自動駕駛應(yīng)用場景中，科技倫理風(fēng)險側(cè)重科技創(chuàng)新活動、科研人員是否符合特定技術(shù)領(lǐng)域的倫理規(guī)范，故相應(yīng)的治理機(jī)制嵌入建構(gòu)則需要圍繞特定場景的科技倫理風(fēng)險予以展開。

第二步：自動駕駛科技倫理風(fēng)險的單一式治理

為應(yīng)對行車路況決策不符合科技倫理規(guī)范的問題，結(jié)合“風(fēng)險研判—風(fēng)險發(fā)現(xiàn)、識別、評估—風(fēng)險應(yīng)對”的治理方式，科技倫理治理的個體嵌入方式應(yīng)包括自動駕駛科技倫理研判管理機(jī)制、自動駕駛科技倫理風(fēng)險發(fā)現(xiàn)識別機(jī)制和自動駕駛科技倫理風(fēng)險反饋應(yīng)對機(jī)制。

自動駕駛科技倫理研判管理機(jī)制主要根據(jù)產(chǎn)業(yè)實踐發(fā)展?fàn)顩r，結(jié)合產(chǎn)業(yè)發(fā)展政策和科技創(chuàng)新規(guī)劃，明確科技倫理風(fēng)險的表現(xiàn)樣態(tài)與應(yīng)當(dāng)遵守的科技倫理規(guī)范。同時，針對自動駕駛應(yīng)用可能面臨的復(fù)雜交通路況，監(jiān)管機(jī)構(gòu)和科技倫理委員會可以采取行業(yè)指導(dǎo)規(guī)范、技術(shù)應(yīng)用實踐范例等方式聯(lián)合發(fā)布技術(shù)應(yīng)用指導(dǎo)文件，列舉在車輛交會、高速公路、窄道行車等常見行車情形下，符合科技倫理標(biāo)準(zhǔn)的行車路線和行車方式。

自動駕駛科技倫理識別評估機(jī)制主要是根據(jù)自動駕駛的行車路線、行車方式等具體應(yīng)用場景因素，發(fā)現(xiàn)、識別和確認(rèn)具體的科技倫理風(fēng)險。同時，這一環(huán)節(jié)的科技倫理治理還包括倫理嵌入創(chuàng)新活動等其他形式的治理機(jī)制。

自動駕駛科技倫理反饋應(yīng)對機(jī)制是根據(jù)自動駕駛科技存在的科技倫理風(fēng)險樣態(tài)以及上一個治理環(huán)節(jié)所作出的道德判斷與技術(shù)整改建議，對自動駕駛技術(shù)方案進(jìn)行調(diào)整和優(yōu)化。在自愿科技倫理審查的情形下，相應(yīng)的審查結(jié)果和優(yōu)化建議僅需反饋至科技創(chuàng)新主體，由其結(jié)合自身狀況判斷是否應(yīng)當(dāng)按照優(yōu)化建議調(diào)整相應(yīng)的技術(shù)方案。

第三步：自動駕駛科技倫理風(fēng)險的銜接式治理

在自動駕駛領(lǐng)域中，科技倫理治理機(jī)制需要與其他治理機(jī)制協(xié)同工作，以識別、評估、預(yù)防和控制安全風(fēng)險。其中，法律治理機(jī)制側(cè)重防范義務(wù)主體未能履行安全保障義務(wù)導(dǎo)致的人身損害風(fēng)險；技術(shù)治理機(jī)制側(cè)重防范因技術(shù)漏洞或系統(tǒng)設(shè)計缺陷導(dǎo)致的自動駕駛系統(tǒng)不可靠風(fēng)險；市場治理機(jī)制則側(cè)重預(yù)防行業(yè)競爭失序風(fēng)險，該風(fēng)險源于企業(yè)因過分追求技術(shù)領(lǐng)先而簡化安全管理流程或過早投入實踐試點應(yīng)用。

科技倫理治理機(jī)制通過自動駕駛安全風(fēng)險的一體化評估，將安全風(fēng)險因素統(tǒng)一納入技術(shù)治理框架中，并遵循三個原則：其一，業(yè)已評估的安全風(fēng)險類型不再重新評估，可以直接作為其他安全風(fēng)險評估的結(jié)論。其二，各類治理機(jī)制所延伸出的安全風(fēng)險評估不就同一事項進(jìn)行多次評估。其三，定期安全風(fēng)險評估為主，不定期安全風(fēng)險評估為輔。此外，事前區(qū)分倫理風(fēng)險、技術(shù)風(fēng)險等風(fēng)險類型是為了更好地確認(rèn)各類安全風(fēng)險的輕重緩急，進(jìn)而為科技創(chuàng)新主體、監(jiān)管機(jī)構(gòu)等治理主體的后續(xù)行動提供相應(yīng)的規(guī)范指引。在實踐中，《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理條例》確立了智能網(wǎng)聯(lián)汽車的監(jiān)管平臺，旨在實現(xiàn)車路云一體化監(jiān)管，保障交通安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全，為自動駕駛的風(fēng)險評估制度提供了范例與模板。

科技倫理治理的核心治理效果是引導(dǎo)科技創(chuàng)新活動的良性健康發(fā)展，督促科研人員自覺地遵守科技倫理規(guī)范。所以，科技倫理治理的嵌入路徑更需要探索更加多元化的倫理觀念引導(dǎo)模式，而不是僅僅限于科技倫理審查機(jī)制，以實現(xiàn)風(fēng)險治理邏輯層面的制度協(xié)調(diào)性。

（原文《科技倫理嵌入人工智能治理體系的路徑展開——以自動駕駛應(yīng)用場景為例》發(fā)表于《法治社會》2024 年第 5 期，經(jīng)作者修改后在《深圳法治評論》刊發(fā)。）

免責(zé)聲明

本文僅代表原作者觀點，不代表走出去智庫立場。

延展閱讀

▌地緣政治風(fēng)險:

▌出口管制與制裁:

▌跨境數(shù)據(jù)監(jiān)管:

▌全球科技競爭:

▌品牌聲譽管理:

走出去智庫（CGGT）為《深圳法治評論》提供學(xué)術(shù)資源支持。