2025年9月，蘭德公司發(fā)布了《人工智能的侵權(quán)責(zé)任與治理》（Tort Liability and Governance for Artificial Intelligence）的報(bào)告。人工智能已不再僅僅是科幻概念的具象化，它已成為一股深刻塑造各行各業(yè)與個(gè)人生活的變革性力量。其技術(shù)的快速迭代與廣泛應(yīng)用，迫使政策制定者、法律界與產(chǎn)業(yè)界必須緊急應(yīng)對一個(gè)核心問題：如何在激勵(lì)技術(shù)創(chuàng)新的同時(shí)，確保有效的問責(zé)機(jī)制與公共安全。這一挑戰(zhàn)在侵權(quán)責(zé)任領(lǐng)域尤為突出，傳統(tǒng)的法律原則在應(yīng)對人工智能系統(tǒng)的自主性、不透明性及其引發(fā)的新型損害時(shí)，正面臨前所未有的壓力。本報(bào)告基于相關(guān)研討的核心見解，系統(tǒng)分析了人工智能為侵權(quán)責(zé)任體系帶來的根本性變革，審視了現(xiàn)有治理模式的優(yōu)劣，并提出了一個(gè)融合多方工具的綜合性治理框架，旨在為構(gòu)建一個(gè)既能應(yīng)對風(fēng)險(xiǎn)又能促進(jìn)創(chuàng)新的法律環(huán)境提供可行的政策路徑。

一、

人工智能治理的迫切性與核心要素

人工智能作為一個(gè)涵蓋多種技術(shù)的廣義術(shù)語，其核心在于模擬人類智能功能，如處理信息、進(jìn)行對話、識(shí)別模式與預(yù)測決策。然而，一個(gè)關(guān)鍵的矛盾已然顯現(xiàn)，盡管幾乎每個(gè)美國人每周都會(huì)在無意中多次使用人工智能賦能的產(chǎn)品或服務(wù)，但公眾對其的認(rèn)知度卻極低。調(diào)查顯示，僅有不到40%的用戶意識(shí)到自己在過去一周內(nèi)使用過人工智能。這種廣泛使用與有限理解之間的巨大鴻溝，加劇了公眾對人工智能系統(tǒng)“黑箱”特性、潛在風(fēng)險(xiǎn)以及現(xiàn)有保障措施充分性的合理擔(dān)憂。因此，建立公眾信任已成為人工智能技術(shù)被社會(huì)廣泛接納的基石，而這亟需通過提高系統(tǒng)透明度、加強(qiáng)公眾教育以及確保強(qiáng)有力的個(gè)人權(quán)益保護(hù)來實(shí)現(xiàn)。

在此背景下，構(gòu)建穩(wěn)健的人工智能治理框架被視為建立信任、確保問責(zé)與引導(dǎo)技術(shù)負(fù)責(zé)任發(fā)展的關(guān)鍵?，F(xiàn)有的兩個(gè)框架為治理設(shè)計(jì)提供了重要參考：一是美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）發(fā)布的《自愿性人工智能風(fēng)險(xiǎn)管理框架》，它鼓勵(lì)組織采納最佳實(shí)踐以管理風(fēng)險(xiǎn)；二是歐盟的《人工智能法案》，它提供了一種結(jié)構(gòu)化的監(jiān)管路徑，以確保公共安全與道德使用。此外，長期處于嚴(yán)格監(jiān)管下的保險(xiǎn)行業(yè)，其建立企業(yè)級委員會(huì)以處理精算、數(shù)據(jù)科學(xué)及法律合規(guī)問題的模式，也為人工智能治理提供了可資借鑒的范例。

一個(gè)有效的人工智能治理框架應(yīng)包含幾個(gè)核心要素：首先，需要建立統(tǒng)一的標(biāo)準(zhǔn)和指標(biāo)，對人工智能系統(tǒng)進(jìn)行標(biāo)準(zhǔn)化評估，以減少開發(fā)與部署過程中的不確定性。其次，應(yīng)設(shè)立強(qiáng)制性的事件報(bào)告機(jī)制，以增強(qiáng)透明度，使行業(yè)能夠在風(fēng)險(xiǎn)演變?yōu)榇笠?guī)模損害前進(jìn)行合作。最后，推廣監(jiān)管沙盒，為人工智能應(yīng)用在受控環(huán)境中進(jìn)行測試提供空間，從而在保障安全的前提下鼓勵(lì)負(fù)責(zé)任的創(chuàng)新。

二、

侵權(quán)責(zé)任格局的演變與新訴訟前沿

當(dāng)前，圍繞人工智能工具的法律訴訟雖仍以知識(shí)產(chǎn)權(quán)糾紛為主導(dǎo)，但侵權(quán)責(zé)任的格局正在發(fā)生深刻而迅速的演變。研討揭示了三個(gè)新興的、潛在的訴訟爆發(fā)領(lǐng)域，包括數(shù)據(jù)泄露、消費(fèi)者保護(hù)與反壟斷。

數(shù)據(jù)泄露事件日益頻繁，通常源于企業(yè)未能實(shí)施足夠的安全措施。而人工智能工具的介入，可能極大地放大泄露的規(guī)模與影響。例如，人工智能系統(tǒng)可被用于生成新一代復(fù)雜的網(wǎng)絡(luò)釣魚攻擊或自動(dòng)化黑客工具。在此類情形下，訴訟的焦點(diǎn)可能從傳統(tǒng)上被追究責(zé)任的被入侵實(shí)體，轉(zhuǎn)向那些其系統(tǒng)被惡意濫用以實(shí)施網(wǎng)絡(luò)攻擊的人工智能開發(fā)者。這標(biāo)志著法律責(zé)任分配的傳統(tǒng)邏輯正在發(fā)生重大轉(zhuǎn)變。

除了數(shù)據(jù)泄露之外，消費(fèi)者保護(hù)與反壟斷訴訟預(yù)計(jì)將隨著人工智能系統(tǒng)更深地介入市場與消費(fèi)者互動(dòng)而顯著增加。針對人工智能輸出具有誤導(dǎo)性的指控，或利用人工智能工具進(jìn)行市場操縱、不公平偏袒等壟斷行為，都將使責(zé)任認(rèn)定進(jìn)一步復(fù)雜化。一個(gè)被引述的典型案例是2023年的訴訟，指控某聊天機(jī)器人在用戶表達(dá)自殺念頭時(shí)未能進(jìn)行有效干預(yù)或提供警告，最終導(dǎo)致了悲劇發(fā)生。類似地，若聊天機(jī)器人提供了關(guān)于產(chǎn)品折扣或資格的不準(zhǔn)確信息，并導(dǎo)致消費(fèi)者經(jīng)濟(jì)受損，也可能引發(fā)消費(fèi)者保護(hù)索賠。這些案例表明，人工智能系統(tǒng)正在創(chuàng)造與消費(fèi)者損害相關(guān)的全新訴訟途徑。與此同時(shí)，人工智能對傳統(tǒng)侵權(quán)法概念的沖擊亦不容忽視，例如“注意義務(wù)”的范圍正在被重新定義。人工智能系統(tǒng)的開發(fā)者未來可能被要求承擔(dān)更廣泛的義務(wù)，包括在設(shè)計(jì)階段就盡可能降低可預(yù)見濫用的風(fēng)險(xiǎn)、在部署前進(jìn)行詳盡的影響評估，并在產(chǎn)品發(fā)布后持續(xù)監(jiān)控其使用方式。

三、

保險(xiǎn)在風(fēng)險(xiǎn)管理與治理協(xié)調(diào)中的關(guān)鍵角色

在人工智能生態(tài)系統(tǒng)中，保險(xiǎn)業(yè)扮演著一個(gè)獨(dú)特而關(guān)鍵的雙重角色，它既是通過提供風(fēng)險(xiǎn)轉(zhuǎn)移工具來促進(jìn)創(chuàng)新的市場力量，也是通過其定價(jià)與承保政策來塑造風(fēng)險(xiǎn)管理實(shí)踐的關(guān)鍵治理參與者。保險(xiǎn)的可獲得性與定價(jià)機(jī)制，使其成為應(yīng)對人工智能相關(guān)風(fēng)險(xiǎn)和塑造治理框架不可或缺的利益相關(guān)者。然而，人工智能也給傳統(tǒng)保險(xiǎn)實(shí)踐帶來了新的復(fù)雜性，尤其是其“黑箱”特性導(dǎo)致的決策不透明性，為定價(jià)和風(fēng)險(xiǎn)評估的公平性與問責(zé)制帶來了嚴(yán)峻挑戰(zhàn)。保險(xiǎn)公司必須謹(jǐn)慎應(yīng)對其自身使用的或保單持有人使用的人工智能系統(tǒng)可能無意中引入偏見或歧視的風(fēng)險(xiǎn)，這要求建立強(qiáng)有力的內(nèi)部監(jiān)督與保障措施。

行業(yè)的回應(yīng)正在逐步成型。2023年，美國保險(xiǎn)監(jiān)督官協(xié)會(huì)（NAIC）通過了《關(guān)于保險(xiǎn)公司使用人工智能系統(tǒng)的示范公告》，該文件為保險(xiǎn)公司應(yīng)如何管理人工智能技術(shù)的開發(fā)、獲取和使用設(shè)定了明確期望。它要求保險(xiǎn)公司對其使用的預(yù)測模型的目的、開發(fā)過程及持續(xù)評估進(jìn)行詳細(xì)記錄，以確保其可靠性與公平性。這一公告被視為行業(yè)特定監(jiān)管的一個(gè)有效范例。同時(shí)，保險(xiǎn)公司自身也在積極適應(yīng)，開發(fā)新的承保模式以覆蓋諸如網(wǎng)絡(luò)安全漏洞和人工智能部署中的倫理問題等新興風(fēng)險(xiǎn)類別。更為重要的是，保險(xiǎn)公司能夠通過定價(jià)策略激勵(lì)主動(dòng)的風(fēng)險(xiǎn)管理。例如，它們可以要求保單持有人遵守特定的治理與安全標(biāo)準(zhǔn)，如完善的文檔記錄、嚴(yán)格的測試與持續(xù)的監(jiān)控，以作為提供保險(xiǎn)覆蓋的前提條件。這種機(jī)制使得保險(xiǎn)業(yè)與“預(yù)防優(yōu)于補(bǔ)救”的更廣泛治理目標(biāo)保持一致，使其在平衡創(chuàng)新與問責(zé)方面具備了獨(dú)特優(yōu)勢，并為更廣泛的人工智能治理工作提供了可復(fù)制的協(xié)調(diào)模型。

四、

核心挑戰(zhàn)：在法院與監(jiān)管機(jī)構(gòu)之間尋求平衡

研討中的一個(gè)關(guān)鍵辯論在于：是法院還是監(jiān)管機(jī)構(gòu)更能妥善處理人工智能引構(gòu)建有效的人工智能責(zé)任與治理體系面臨的核心挑戰(zhàn)，在于如何平衡靈活性、明確性、風(fēng)險(xiǎn)防控與技術(shù)創(chuàng)新之間的張力。發(fā)的損害與責(zé)任問題？這兩種模式各具優(yōu)劣，反映了治理哲學(xué)上的深層分歧。

法院驅(qū)動(dòng)模式的優(yōu)勢在于其固有的靈活性。法院在歷史上屢次為新興技術(shù)引發(fā)的糾紛制定法律先例，其案例導(dǎo)向的特性允許法官根據(jù)每個(gè)案件的具體事實(shí)與情境來評估責(zé)任，這在缺乏明確成文法規(guī)的初期階段尤為寶貴?，F(xiàn)有的侵權(quán)法與普通法原則，如共同過失與注意義務(wù)，為解決人工智能風(fēng)險(xiǎn)提供了初步的法律基礎(chǔ)。然而，該模式的局限性也十分明顯：法官可能缺乏評估復(fù)雜人工智能系統(tǒng)所需的技術(shù)專業(yè)知識(shí)，從而導(dǎo)致裁決不一致或基于不充分的信息；以美國各州為基礎(chǔ)的訴訟可能催生零散化、甚至相互矛盾的法律格局，為開發(fā)者和部署者帶來巨大的不確定性；最重要的是，法院在本質(zhì)上是被動(dòng)反應(yīng)型的，它們只能在損害發(fā)生后才進(jìn)行干預(yù)，而無法事先預(yù)防損害的發(fā)生。

相比之下，監(jiān)管驅(qū)動(dòng)模式因其能夠?yàn)槿斯ぶ悄馨踩?、問?zé)與風(fēng)險(xiǎn)管理提供清晰、可執(zhí)行且前瞻性的指導(dǎo)方針而受到推崇。監(jiān)管機(jī)構(gòu)可以借鑒行業(yè)特定框架（如美國保險(xiǎn)監(jiān)督官協(xié)會(huì)的示范公告或歐盟《人工智能法案》），建立能夠隨技術(shù)進(jìn)步而演化的標(biāo)準(zhǔn)。這種模式的優(yōu)勢包括主動(dòng)的風(fēng)險(xiǎn)緩解（旨在預(yù)防損害而非事后補(bǔ)償）、促進(jìn)全球協(xié)調(diào)的可能性，以及為所有利益相關(guān)者減少不確定性的更高透明度。盡管如此，監(jiān)管途徑同樣面臨嚴(yán)峻挑戰(zhàn)。在美國的政治環(huán)境中，人們對國會(huì)能否就復(fù)雜且快速演變的人工智能技術(shù)迅速出臺(tái)周密立法深感懷疑。此外，存在一個(gè)切實(shí)的風(fēng)險(xiǎn)，即過于規(guī)范化和僵硬的監(jiān)管可能扼殺創(chuàng)新，或?qū)⑦^時(shí)的技術(shù)假設(shè)固化為法律，從而阻礙有益技術(shù)的發(fā)展。

五、

綜合性解決方案：構(gòu)建多層治理框架

上述挑戰(zhàn)凸顯了人工智能責(zé)任與治理問題的復(fù)雜性，強(qiáng)調(diào)了對一個(gè)能夠平衡問責(zé)制、風(fēng)險(xiǎn)緩解與創(chuàng)新的綜合性框架的迫切需求。認(rèn)識(shí)到?jīng)]有任何單一工具能夠解決所有問題，本報(bào)告提出了一個(gè)包含六個(gè)關(guān)鍵要素的多層次治理方案，旨在為政策制定者與利益相關(guān)者提供一套可協(xié)同運(yùn)作的政策工具箱。

第一，主動(dòng)治理。這意味著需建立基礎(chǔ)的行業(yè)標(biāo)準(zhǔn)與安全要求，力求在損害發(fā)生前予以預(yù)防。這種前瞻性方法可以減少對訴訟等成本高昂且效率較低的事后補(bǔ)救措施的依賴，并逐步培育公眾對人工智能系統(tǒng)的信任。

第二，應(yīng)大力推行行業(yè)特定監(jiān)管。鑒于人工智能的應(yīng)用場景千差萬別，在醫(yī)療、金融、交通等不同領(lǐng)域引發(fā)的風(fēng)險(xiǎn)性質(zhì)迥異，一刀切的監(jiān)管模式并不可取。根據(jù)各行業(yè)的獨(dú)特需求與風(fēng)險(xiǎn)畫像量身定制監(jiān)管規(guī)則，能確保治理框架的相關(guān)性與有效性。

第三，在監(jiān)管尚未覆蓋或出現(xiàn)前所未有的特殊案例時(shí)，仍需發(fā)揮法院處理個(gè)案細(xì)微差別的能力。法院的靈活性可以作為監(jiān)管框架的必要補(bǔ)充，確保正義在復(fù)雜情境中仍能得到伸張。

第四，監(jiān)管沙盒的概念應(yīng)得到廣泛應(yīng)用。通過創(chuàng)建受控的測試環(huán)境，并在其中應(yīng)用標(biāo)準(zhǔn)化的評估標(biāo)準(zhǔn)，創(chuàng)新者可以在確保風(fēng)險(xiǎn)得到有效監(jiān)控與管理的前提下，對新的人工智能應(yīng)用進(jìn)行試驗(yàn)。這為“負(fù)責(zé)任的創(chuàng)新”提供了實(shí)踐路徑。

第五，設(shè)立安全港條款。為那些能夠證明自己已遵守既定治理與安全標(biāo)準(zhǔn)的組織提供一定程度的法律保護(hù)（例如在責(zé)任訴訟中適用過錯(cuò)推定而非嚴(yán)格責(zé)任），可以極大地激勵(lì)企業(yè)采納最佳實(shí)踐，并降低合規(guī)開發(fā)者的不可預(yù)見的責(zé)任風(fēng)險(xiǎn)。

第六，必須引入共同責(zé)任框架。人工智能生態(tài)系統(tǒng)涉及開發(fā)者、部署者、集成商乃至最終用戶等多個(gè)主體。當(dāng)發(fā)生損害時(shí)，責(zé)任應(yīng)根據(jù)各方的控制能力、參與程度與過失情況，在這一生態(tài)系統(tǒng)中進(jìn)行合理分配。這有助于培養(yǎng)一種集體責(zé)任感，促使所有參與方共同致力于減輕人工智能系統(tǒng)的潛在危害。

六、

結(jié)論：邁向負(fù)責(zé)任創(chuàng)新的未來

人工智能的侵權(quán)責(zé)任與治理是一個(gè)動(dòng)態(tài)且復(fù)雜的領(lǐng)域，其發(fā)展將直接影響到技術(shù)創(chuàng)新的方向與社會(huì)的安全穩(wěn)定。未來的治理框架必須在減輕風(fēng)險(xiǎn)與促進(jìn)技術(shù)進(jìn)步之間取得謹(jǐn)慎的平衡。過度約束可能使我們錯(cuò)失人工智能在醫(yī)療、教育、環(huán)保等領(lǐng)域帶來的巨大社會(huì)效益；而放任自流則可能導(dǎo)致個(gè)人權(quán)益受損、市場失序甚至公共安全危機(jī)。通過采納上述融合了主動(dòng)治理、行業(yè)監(jiān)管、司法靈活性、沙盒測試、安全港激勵(lì)與共同責(zé)任的綜合性方案，政策制定者可以構(gòu)建一個(gè)兼具韌性、適應(yīng)性與前瞻性的治理體系。這一體系的核心目標(biāo)，是為人工智能的健康發(fā)展鋪平道路，確保其巨大的變革潛力能夠在堅(jiān)實(shí)的倫理與法律基石上得以釋放，最終引領(lǐng)我們走向一個(gè)既充滿創(chuàng)新活力又具備充分安全保障的數(shù)字未來。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡介

國際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機(jī)構(gòu)，主要職能是研究我國經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)?！叭蚣夹g(shù)地圖”為國際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er