走出去智庫（CGGT）觀察

由走出去智庫（CGGT）提供學術(shù)資源支持的《深圳法治評論》2025年第二期《專論》欄目聚焦“創(chuàng)新自動駕駛汽車管理制度體系”，約請法律專家建言獻策。

北京科技創(chuàng)新中心研究基地副主任趙精武的文章《科技倫理嵌入人工智能治理體系嵌入路徑研究——以自動駕駛應用場景為例》對科技倫理嵌入人工智能治理體系嵌入路徑進行了研究，提出應當對自動駕駛汽車面臨的各種風險進行一體式評估，并根據(jù)確認的不同風險的情形，采取針對性的治理機制。

《深圳法治評論》由中共深圳市委全面依法治市委員會辦公室、深圳市司法局主辦，定位于高端領(lǐng)導決策讀物，聚焦深圳法治建設(shè)，刊發(fā)高水平、可實操的應用性政策研究，輔助市領(lǐng)導及本市黨政機關(guān)領(lǐng)導干部法治建設(shè)方面決策，為支持深圳建設(shè)中國特色社會主義法治先行示范城市建言獻策?！渡钲诜ㄖ卧u論》在2020-2024年連續(xù)五年榮膺深圳內(nèi)刊傳媒獎之“優(yōu)秀城市內(nèi)刊獎”。自2020年創(chuàng)刊起，走出去智庫（CGGT）即為該高端決策讀物提供學術(shù)資源支持。

今天，走出去智庫（CGGT）微信公眾號刊發(fā)北京科技創(chuàng)新中心研究基地副主任趙精武的文章，供關(guān)注自動駕駛汽車法規(guī)的讀者參考。

要點

1、人工智能技術(shù)治理的核心目標是統(tǒng)籌兼顧科技創(chuàng)新和科技安全，因為這兩種治理目標的權(quán)衡狀態(tài)并沒有唯一正解，所以才需要通過科技倫理治理機制所形成的倫理協(xié)商空間，推動不同主體對這兩類目標的實現(xiàn)方式達成最大化共識。

2、人工智能技術(shù)風險的解決需要政府機構(gòu)與非政府機構(gòu)共同自由參與技術(shù)治理活動，通過事前細分具體的風險類型，并借由不同的治理工具及其銜接路徑發(fā)揮各自的治理效用，實現(xiàn)一致性的技術(shù)治理目標。

3、在自動駕駛領(lǐng)域中，科技倫理治理機制需要與其他治理機制協(xié)同工作，以識別、評估、預防和控制安全風險。

正文

科技倫理嵌入人工智能治理體系嵌入路徑研究

——以自動駕駛應用場景為例

文/趙精武

北京科技創(chuàng)新中心研究基地副主任

在當下，以 Deepseek 為代表的人工智能技術(shù)最為熱門的核心研究議題是如何充分實現(xiàn)人工智能技術(shù)的社會效益并控制潛在技術(shù)風險。同時，法律風險、科技倫理風險等多元化風險類型相互交織，使得技術(shù)治理實踐需要采取一種更為綜合性的治理模式，全局性地解決技術(shù)應用的風險多元化問題。然而，人工智能治理框架下的多元治理機制之間彼此如何有效銜接、如何明確機制差異等問題尚未得到很好地解決。因此，有必要重新審視科技倫理治理機制如何嵌入人工智能技術(shù)治理體系，并協(xié)調(diào)其與法律、市場、技術(shù)等其他治理機制之間的銜接。

人工智能科技倫理治理的理論基礎(chǔ)與常見范式

科技倫理治理的治理目標與治理理論

科技倫理治理實質(zhì)上是一種方向性、目標性治理，表現(xiàn)為“以倫理為原則為指導，解決科技發(fā)展面臨的倫理問題和社會問題、增進科學技術(shù)為人的福祉而發(fā)展的各種方式的總和”。在多元文化背景下，形成統(tǒng)一的科技倫理共識存在難度，為此，科技倫理治理通過采取倫理原則與審查的方式，將抽象的倫理價值聚焦于具體的技術(shù)應用方式，促成概括性倫理規(guī)范向可視化應用標準的轉(zhuǎn)變。

人工智能科技倫理的治理功能

科技倫理治理模式的最終治理目標是在盡可能不影響科研自由和科技創(chuàng)新空間的情況下提供倫理方向的“優(yōu)化建議”。人工智能技術(shù)治理的核心目標是統(tǒng)籌兼顧科技創(chuàng)新和科技安全，因為這兩種治理目標的權(quán)衡狀態(tài)并沒有唯一正解，所以才需要通過科技倫理治理機制所形成的倫理協(xié)商空間，推動不同主體對這兩類目標的實現(xiàn)方式達成最大化共識?？偨Y(jié)而言，科技倫理治理功能的實現(xiàn)方式是以開放式的科技倫理吸納社會群體意見，使得科技創(chuàng)新活動無限趨近于理想狀態(tài)。

人工智能科技倫理治理功能包括引導、協(xié)商、識別和反饋四項功能，它們能夠發(fā)揮有別于其他治理機制的規(guī)范性作用。其中，引導功能強調(diào)科技創(chuàng)新活動應遵循社會共識性的科技倫理原則；協(xié)商功能通過開放式的公共對話尋求科技倫理共識；識別功能用于判斷科技創(chuàng)新活動的合理性并發(fā)現(xiàn)潛在倫理風險；反饋功能則通過評價結(jié)果促使科技創(chuàng)新活動自我調(diào)整，避免出現(xiàn)重復倫理問題。

人工智能科技倫理治理的常見機制

科技倫理治理的引導、協(xié)商、識別和反饋四項功能對應了四類科技倫理治理機制：其一，引導功能延伸出行業(yè)指引性治理機制，包括監(jiān)管機構(gòu)事前制定科技創(chuàng)新產(chǎn)業(yè)規(guī)劃、最佳實踐范例等。其二，協(xié)商功能延伸出科技倫理治理公眾參與機制，通過征求社會公眾意見等方式，探討并達成共識性的倫理原則。其三，識別機制延伸出科技倫理審查機制、科技倫理研判機制等治理機制。其四，反饋功能延伸出科技倫理管理監(jiān)督機制、科技倫理整改督促機制等優(yōu)化改良型治理機制。

上述四項功能彼此之間存在銜接關(guān)系，也使得相應的科技倫理治理機制呈現(xiàn)體系化銜接關(guān)系。此外，在反饋功能所確立的治理機制作用下，科技倫理審查所作出的道德判斷以及專家建議又會反饋至被審查對象，再次實現(xiàn)具體技術(shù)應用領(lǐng)域的科技倫理引導功能，進而達成科技倫理治理的功能循環(huán)。

由于科技倫理治理機制會隨著倫理規(guī)范的內(nèi)容創(chuàng)新而有所變化，因此科技倫理治理嵌入人工智能治理體系過程中的核心問題在于如何明確科技倫理治理功能可以與哪些治理機制進行銜接。

人工智能科技倫理治理的嵌入路徑

科技倫理嵌入的理論前提：風險識別

在人工智能治理體系中，風險識別既是確保技術(shù)安全的重要保障，也是促進科技高質(zhì)量創(chuàng)新的基礎(chǔ)要件。人工智能技術(shù)風險的解決需要政府機構(gòu)與非政府機構(gòu)共同自由參與技術(shù)治理活動，通過事前細分具體的風險類型，并借由不同的治理工具及其銜接路徑發(fā)揮各自的治理效用，實現(xiàn)一致性的技術(shù)治理目標。

在科技倫理風險層面，廣義社會風險論與狹義倫理風險論在具體風險樣態(tài)的涵蓋范圍上存在分歧，無法有效銜接科技倫理治理與法律治理。對此，科技倫理風險的核心樣態(tài)應當是科技發(fā)展與人類倫理觀念的不適配狀態(tài)，人工智能科技倫理風險的發(fā)現(xiàn)、識別和確認應當是以科技倫理觀念為基礎(chǔ)，而不是以法律意義上的權(quán)益保障為中心 。

科技倫理治理機制的個體化嵌入

在單一面向科技倫理風險時，科技倫理治理機制的嵌入方式應當是完成單一風險治理的內(nèi)在邏輯體系銜接，即建構(gòu)科技倫理風險研判管理機制、科技倫理風險識別評估機制和科技倫理風險反饋應對機制三個部分。

科技倫理風險研判管理機制屬于預期性治理機制。在法學領(lǐng)域，當前人工智能科技倫理研究聚焦于諸如歧視偏見等倫理問題。面對超出可預見范圍的各類技術(shù)風險，在難以準確預測潛在風險的情況下，需要采取靈活的科技倫理規(guī)范，引導科技創(chuàng)新活動自覺采取有利于社會公共利益的方式進行。

科技倫理風險識別評估機制屬于風險確認型治理機制，核心在于確認科技倫理風險的范圍。并且，風險識別評估機制的內(nèi)容設(shè)置強調(diào)多元知識背景的行為主體共同參與，盡可能避免評估的個人主觀性和專業(yè)導向性。此外，該機制的主要功能是發(fā)現(xiàn)和確認科技倫理風險的基本類型。

科技倫理風險反饋應對機制屬于風險應對型治理機制，主要將風險識別評估機制所作出的道德判斷反饋至科技創(chuàng)新機構(gòu)與人員。這種應對機制既包括將倫理風險識別結(jié)果和專家建議反饋至被審查對象的即時性反饋，也包括監(jiān)管機構(gòu)結(jié)合科技倫理治理實踐，以禁止性清單形式反饋具有高風險水平的特定科技創(chuàng)新活動的群體性反饋。

科技倫理治理機制的銜接式嵌入

在明確科技倫理治理機制在人工智能治理體系中的單向嵌入路徑后，還需要考量該治理機制如何與法律、技術(shù)、市場等其他治理機制進行銜接?？萍紓惱碇卫砼c其他治理機制的銜接方式表現(xiàn)為：倫理與法律的銜接方式是建構(gòu)科技倫理審查制度，將敏感研究領(lǐng)域的科技創(chuàng)新活動納入審查活動中，并在區(qū)分強制審查和自愿審查的前提下，將是否依法進行強制審查以及審查結(jié)果作為判斷科技創(chuàng)新主體對損害事實是否存在主觀過錯的標準。

在倫理與技術(shù)層面，面對人工智能技術(shù)未來發(fā)展的不確定性，在治理體系中需要發(fā)揮科技倫理治理的引導功能，將工程倫理、職業(yè)道德培訓嵌入至科技創(chuàng)新活動。

倫理與市場的銜接主要是通過行業(yè)自律規(guī)范實現(xiàn)，具體表現(xiàn)為制定共識性的自律規(guī)范與將科技倫理規(guī)范融入行業(yè)自律規(guī)范的范疇兩個方面。

人工智能科技倫理治理嵌入式建構(gòu)實例：以自動駕駛應用為例

在前述治理機制的嵌入建構(gòu)框架下，自動駕駛技術(shù)的倫理治理規(guī)則可劃分為以下三個步驟逐步建構(gòu)。

第一步：自動駕駛科技倫理風險的分析識別

自動駕駛技術(shù)的應用涉及安全價值保護位階的問題。在行車遭遇緊急情況時，自動駕駛系統(tǒng)是應優(yōu)先保護車內(nèi)駕駛?cè)?，還是在權(quán)衡車內(nèi)外實際損害結(jié)果后再行選擇，成為自動駕駛普及應用的一大倫理難題。行車安全的倫理價值觀念是由制造商、信息系統(tǒng)開發(fā)者還是倫理學或法學專家決定也存在爭議。另外，自動駕駛技術(shù)應用引發(fā)的失業(yè)風險問題應歸屬于就業(yè)公共政策范疇，而非科技倫理風險領(lǐng)域。

基于人工智能治理目標，科技倫理風險的判斷標準應是科技創(chuàng)新是否合理以及不合理的科技創(chuàng)新活動是否造成人類主體尊嚴的貶損。在自動駕駛應用場景中，科技倫理風險側(cè)重科技創(chuàng)新活動、科研人員是否符合特定技術(shù)領(lǐng)域的倫理規(guī)范，故相應的治理機制嵌入建構(gòu)則需要圍繞特定場景的科技倫理風險予以展開。

第二步：自動駕駛科技倫理風險的單一式治理

為應對行車路況決策不符合科技倫理規(guī)范的問題，結(jié)合“風險研判—風險發(fā)現(xiàn)、識別、評估—風險應對”的治理方式，科技倫理治理的個體嵌入方式應包括自動駕駛科技倫理研判管理機制、自動駕駛科技倫理風險發(fā)現(xiàn)識別機制和自動駕駛科技倫理風險反饋應對機制。

自動駕駛科技倫理研判管理機制主要根據(jù)產(chǎn)業(yè)實踐發(fā)展狀況，結(jié)合產(chǎn)業(yè)發(fā)展政策和科技創(chuàng)新規(guī)劃，明確科技倫理風險的表現(xiàn)樣態(tài)與應當遵守的科技倫理規(guī)范。同時，針對自動駕駛應用可能面臨的復雜交通路況，監(jiān)管機構(gòu)和科技倫理委員會可以采取行業(yè)指導規(guī)范、技術(shù)應用實踐范例等方式聯(lián)合發(fā)布技術(shù)應用指導文件，列舉在車輛交會、高速公路、窄道行車等常見行車情形下，符合科技倫理標準的行車路線和行車方式。

自動駕駛科技倫理識別評估機制主要是根據(jù)自動駕駛的行車路線、行車方式等具體應用場景因素，發(fā)現(xiàn)、識別和確認具體的科技倫理風險。同時，這一環(huán)節(jié)的科技倫理治理還包括倫理嵌入創(chuàng)新活動等其他形式的治理機制。

自動駕駛科技倫理反饋應對機制是根據(jù)自動駕駛科技存在的科技倫理風險樣態(tài)以及上一個治理環(huán)節(jié)所作出的道德判斷與技術(shù)整改建議，對自動駕駛技術(shù)方案進行調(diào)整和優(yōu)化。在自愿科技倫理審查的情形下，相應的審查結(jié)果和優(yōu)化建議僅需反饋至科技創(chuàng)新主體，由其結(jié)合自身狀況判斷是否應當按照優(yōu)化建議調(diào)整相應的技術(shù)方案。

第三步：自動駕駛科技倫理風險的銜接式治理

在自動駕駛領(lǐng)域中，科技倫理治理機制需要與其他治理機制協(xié)同工作，以識別、評估、預防和控制安全風險。其中，法律治理機制側(cè)重防范義務主體未能履行安全保障義務導致的人身損害風險；技術(shù)治理機制側(cè)重防范因技術(shù)漏洞或系統(tǒng)設(shè)計缺陷導致的自動駕駛系統(tǒng)不可靠風險；市場治理機制則側(cè)重預防行業(yè)競爭失序風險，該風險源于企業(yè)因過分追求技術(shù)領(lǐng)先而簡化安全管理流程或過早投入實踐試點應用。

科技倫理治理機制通過自動駕駛安全風險的一體化評估，將安全風險因素統(tǒng)一納入技術(shù)治理框架中，并遵循三個原則：其一，業(yè)已評估的安全風險類型不再重新評估，可以直接作為其他安全風險評估的結(jié)論。其二，各類治理機制所延伸出的安全風險評估不就同一事項進行多次評估。其三，定期安全風險評估為主，不定期安全風險評估為輔。此外，事前區(qū)分倫理風險、技術(shù)風險等風險類型是為了更好地確認各類安全風險的輕重緩急，進而為科技創(chuàng)新主體、監(jiān)管機構(gòu)等治理主體的后續(xù)行動提供相應的規(guī)范指引。在實踐中，《深圳經(jīng)濟特區(qū)智能網(wǎng)聯(lián)汽車管理條例》確立了智能網(wǎng)聯(lián)汽車的監(jiān)管平臺，旨在實現(xiàn)車路云一體化監(jiān)管，保障交通安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全，為自動駕駛的風險評估制度提供了范例與模板。

科技倫理治理的核心治理效果是引導科技創(chuàng)新活動的良性健康發(fā)展，督促科研人員自覺地遵守科技倫理規(guī)范。所以，科技倫理治理的嵌入路徑更需要探索更加多元化的倫理觀念引導模式，而不是僅僅限于科技倫理審查機制，以實現(xiàn)風險治理邏輯層面的制度協(xié)調(diào)性。

（原文《科技倫理嵌入人工智能治理體系的路徑展開——以自動駕駛應用場景為例》發(fā)表于《法治社會》2024 年第 5 期，經(jīng)作者修改后在《深圳法治評論》刊發(fā)。）

免責聲明

本文僅代表原作者觀點，不代表走出去智庫立場。

延展閱讀

▌地緣政治風險:

▌出口管制與制裁:

▌跨境數(shù)據(jù)監(jiān)管:

▌全球科技競爭:

▌品牌聲譽管理:

走出去智庫（CGGT）為《深圳法治評論》提供學術(shù)資源支持。