2025年9月，蘭德公司發(fā)布了《人工智能的侵權(quán)責任與治理》（Tort Liability and Governance for Artificial Intelligence）的報告。人工智能已不再僅僅是科幻概念的具象化，它已成為一股深刻塑造各行各業(yè)與個人生活的變革性力量。其技術(shù)的快速迭代與廣泛應(yīng)用，迫使政策制定者、法律界與產(chǎn)業(yè)界必須緊急應(yīng)對一個核心問題：如何在激勵技術(shù)創(chuàng)新的同時，確保有效的問責機制與公共安全。這一挑戰(zhàn)在侵權(quán)責任領(lǐng)域尤為突出，傳統(tǒng)的法律原則在應(yīng)對人工智能系統(tǒng)的自主性、不透明性及其引發(fā)的新型損害時，正面臨前所未有的壓力。本報告基于相關(guān)研討的核心見解，系統(tǒng)分析了人工智能為侵權(quán)責任體系帶來的根本性變革，審視了現(xiàn)有治理模式的優(yōu)劣，并提出了一個融合多方工具的綜合性治理框架，旨在為構(gòu)建一個既能應(yīng)對風險又能促進創(chuàng)新的法律環(huán)境提供可行的政策路徑。

一、

人工智能治理的迫切性與核心要素

人工智能作為一個涵蓋多種技術(shù)的廣義術(shù)語，其核心在于模擬人類智能功能，如處理信息、進行對話、識別模式與預(yù)測決策。然而，一個關(guān)鍵的矛盾已然顯現(xiàn)，盡管幾乎每個美國人每周都會在無意中多次使用人工智能賦能的產(chǎn)品或服務(wù)，但公眾對其的認知度卻極低。調(diào)查顯示，僅有不到40%的用戶意識到自己在過去一周內(nèi)使用過人工智能。這種廣泛使用與有限理解之間的巨大鴻溝，加劇了公眾對人工智能系統(tǒng)“黑箱”特性、潛在風險以及現(xiàn)有保障措施充分性的合理擔憂。因此，建立公眾信任已成為人工智能技術(shù)被社會廣泛接納的基石，而這亟需通過提高系統(tǒng)透明度、加強公眾教育以及確保強有力的個人權(quán)益保護來實現(xiàn)。

在此背景下，構(gòu)建穩(wěn)健的人工智能治理框架被視為建立信任、確保問責與引導技術(shù)負責任發(fā)展的關(guān)鍵�，F(xiàn)有的兩個框架為治理設(shè)計提供了重要參考：一是美國國家標準與技術(shù)研究院（NIST）發(fā)布的《自愿性人工智能風險管理框架》，它鼓勵組織采納最佳實踐以管理風險；二是歐盟的《人工智能法案》，它提供了一種結(jié)構(gòu)化的監(jiān)管路徑，以確保公共安全與道德使用。此外，長期處于嚴格監(jiān)管下的保險行業(yè)，其建立企業(yè)級委員會以處理精算、數(shù)據(jù)科學及法律合規(guī)問題的模式，也為人工智能治理提供了可資借鑒的范例。

一個有效的人工智能治理框架應(yīng)包含幾個核心要素：首先，需要建立統(tǒng)一的標準和指標，對人工智能系統(tǒng)進行標準化評估，以減少開發(fā)與部署過程中的不確定性。其次，應(yīng)設(shè)立強制性的事件報告機制，以增強透明度，使行業(yè)能夠在風險演變?yōu)榇笠?guī)模損害前進行合作。最后，推廣監(jiān)管沙盒，為人工智能應(yīng)用在受控環(huán)境中進行測試提供空間，從而在保障安全的前提下鼓勵負責任的創(chuàng)新。

二、

侵權(quán)責任格局的演變與新訴訟前沿

當前，圍繞人工智能工具的法律訴訟雖仍以知識產(chǎn)權(quán)糾紛為主導，但侵權(quán)責任的格局正在發(fā)生深刻而迅速的演變。研討揭示了三個新興的、潛在的訴訟爆發(fā)領(lǐng)域，包括數(shù)據(jù)泄露、消費者保護與反壟斷。

數(shù)據(jù)泄露事件日益頻繁，通常源于企業(yè)未能實施足夠的安全措施。而人工智能工具的介入，可能極大地放大泄露的規(guī)模與影響。例如，人工智能系統(tǒng)可被用于生成新一代復(fù)雜的網(wǎng)絡(luò)釣魚攻擊或自動化黑客工具。在此類情形下，訴訟的焦點可能從傳統(tǒng)上被追究責任的被入侵實體，轉(zhuǎn)向那些其系統(tǒng)被惡意濫用以實施網(wǎng)絡(luò)攻擊的人工智能開發(fā)者。這標志著法律責任分配的傳統(tǒng)邏輯正在發(fā)生重大轉(zhuǎn)變。

除了數(shù)據(jù)泄露之外，消費者保護與反壟斷訴訟預(yù)計將隨著人工智能系統(tǒng)更深地介入市場與消費者互動而顯著增加。針對人工智能輸出具有誤導性的指控，或利用人工智能工具進行市場操縱、不公平偏袒等壟斷行為，都將使責任認定進一步復(fù)雜化。一個被引述的典型案例是2023年的訴訟，指控某聊天機器人在用戶表達自殺念頭時未能進行有效干預(yù)或提供警告，最終導致了悲劇發(fā)生。類似地，若聊天機器人提供了關(guān)于產(chǎn)品折扣或資格的不準確信息，并導致消費者經(jīng)濟受損，也可能引發(fā)消費者保護索賠。這些案例表明，人工智能系統(tǒng)正在創(chuàng)造與消費者損害相關(guān)的全新訴訟途徑。與此同時，人工智能對傳統(tǒng)侵權(quán)法概念的沖擊亦不容忽視，例如“注意義務(wù)”的范圍正在被重新定義。人工智能系統(tǒng)的開發(fā)者未來可能被要求承擔更廣泛的義務(wù)，包括在設(shè)計階段就盡可能降低可預(yù)見濫用的風險、在部署前進行詳盡的影響評估，并在產(chǎn)品發(fā)布后持續(xù)監(jiān)控其使用方式。

三、

保險在風險管理與治理協(xié)調(diào)中的關(guān)鍵角色

在人工智能生態(tài)系統(tǒng)中，保險業(yè)扮演著一個獨特而關(guān)鍵的雙重角色，它既是通過提供風險轉(zhuǎn)移工具來促進創(chuàng)新的市場力量，也是通過其定價與承保政策來塑造風險管理實踐的關(guān)鍵治理參與者。保險的可獲得性與定價機制，使其成為應(yīng)對人工智能相關(guān)風險和塑造治理框架不可或缺的利益相關(guān)者。然而，人工智能也給傳統(tǒng)保險實踐帶來了新的復(fù)雜性，尤其是其“黑箱”特性導致的決策不透明性，為定價和風險評估的公平性與問責制帶來了嚴峻挑戰(zhàn)。保險公司必須謹慎應(yīng)對其自身使用的或保單持有人使用的人工智能系統(tǒng)可能無意中引入偏見或歧視的風險，這要求建立強有力的內(nèi)部監(jiān)督與保障措施。

行業(yè)的回應(yīng)正在逐步成型。2023年，美國保險監(jiān)督官協(xié)會（NAIC）通過了《關(guān)于保險公司使用人工智能系統(tǒng)的示范公告》，該文件為保險公司應(yīng)如何管理人工智能技術(shù)的開發(fā)、獲取和使用設(shè)定了明確期望。它要求保險公司對其使用的預(yù)測模型的目的、開發(fā)過程及持續(xù)評估進行詳細記錄，以確保其可靠性與公平性。這一公告被視為行業(yè)特定監(jiān)管的一個有效范例。同時，保險公司自身也在積極適應(yīng)，開發(fā)新的承保模式以覆蓋諸如網(wǎng)絡(luò)安全漏洞和人工智能部署中的倫理問題等新興風險類別。更為重要的是，保險公司能夠通過定價策略激勵主動的風險管理。例如，它們可以要求保單持有人遵守特定的治理與安全標準，如完善的文檔記錄、嚴格的測試與持續(xù)的監(jiān)控，以作為提供保險覆蓋的前提條件。這種機制使得保險業(yè)與“預(yù)防優(yōu)于補救”的更廣泛治理目標保持一致，使其在平衡創(chuàng)新與問責方面具備了獨特優(yōu)勢，并為更廣泛的人工智能治理工作提供了可復(fù)制的協(xié)調(diào)模型。

四、

核心挑戰(zhàn)：在法院與監(jiān)管機構(gòu)之間尋求平衡

研討中的一個關(guān)鍵辯論在于：是法院還是監(jiān)管機構(gòu)更能妥善處理人工智能引構(gòu)建有效的人工智能責任與治理體系面臨的核心挑戰(zhàn)，在于如何平衡靈活性、明確性、風險防控與技術(shù)創(chuàng)新之間的張力。發(fā)的損害與責任問題？這兩種模式各具優(yōu)劣，反映了治理哲學上的深層分歧。

法院驅(qū)動模式的優(yōu)勢在于其固有的靈活性。法院在歷史上屢次為新興技術(shù)引發(fā)的糾紛制定法律先例，其案例導向的特性允許法官根據(jù)每個案件的具體事實與情境來評估責任，這在缺乏明確成文法規(guī)的初期階段尤為寶貴�，F(xiàn)有的侵權(quán)法與普通法原則，如共同過失與注意義務(wù)，為解決人工智能風險提供了初步的法律基礎(chǔ)。然而，該模式的局限性也十分明顯：法官可能缺乏評估復(fù)雜人工智能系統(tǒng)所需的技術(shù)專業(yè)知識，從而導致裁決不一致或基于不充分的信息；以美國各州為基礎(chǔ)的訴訟可能催生零散化、甚至相互矛盾的法律格局，為開發(fā)者和部署者帶來巨大的不確定性；最重要的是，法院在本質(zhì)上是被動反應(yīng)型的，它們只能在損害發(fā)生后才進行干預(yù)，而無法事先預(yù)防損害的發(fā)生。

相比之下，監(jiān)管驅(qū)動模式因其能夠為人工智能安全、問責與風險管理提供清晰、可執(zhí)行且前瞻性的指導方針而受到推崇。監(jiān)管機構(gòu)可以借鑒行業(yè)特定框架（如美國保險監(jiān)督官協(xié)會的示范公告或歐盟《人工智能法案》），建立能夠隨技術(shù)進步而演化的標準。這種模式的優(yōu)勢包括主動的風險緩解（旨在預(yù)防損害而非事后補償）、促進全球協(xié)調(diào)的可能性，以及為所有利益相關(guān)者減少不確定性的更高透明度。盡管如此，監(jiān)管途徑同樣面臨嚴峻挑戰(zhàn)。在美國的政治環(huán)境中，人們對國會能否就復(fù)雜且快速演變的人工智能技術(shù)迅速出臺周密立法深感懷疑。此外，存在一個切實的風險，即過于規(guī)范化和僵硬的監(jiān)管可能扼殺創(chuàng)新，或?qū)⑦^時的技術(shù)假設(shè)固化為法律，從而阻礙有益技術(shù)的發(fā)展。

五、

綜合性解決方案：構(gòu)建多層治理框架

上述挑戰(zhàn)凸顯了人工智能責任與治理問題的復(fù)雜性，強調(diào)了對一個能夠平衡問責制、風險緩解與創(chuàng)新的綜合性框架的迫切需求。認識到?jīng)]有任何單一工具能夠解決所有問題，本報告提出了一個包含六個關(guān)鍵要素的多層次治理方案，旨在為政策制定者與利益相關(guān)者提供一套可協(xié)同運作的政策工具箱。

第一，主動治理。這意味著需建立基礎(chǔ)的行業(yè)標準與安全要求，力求在損害發(fā)生前予以預(yù)防。這種前瞻性方法可以減少對訴訟等成本高昂且效率較低的事后補救措施的依賴，并逐步培育公眾對人工智能系統(tǒng)的信任。

第二，應(yīng)大力推行行業(yè)特定監(jiān)管。鑒于人工智能的應(yīng)用場景千差萬別，在醫(yī)療、金融、交通等不同領(lǐng)域引發(fā)的風險性質(zhì)迥異，一刀切的監(jiān)管模式并不可取。根據(jù)各行業(yè)的獨特需求與風險畫像量身定制監(jiān)管規(guī)則，能確保治理框架的相關(guān)性與有效性。

第三，在監(jiān)管尚未覆蓋或出現(xiàn)前所未有的特殊案例時，仍需發(fā)揮法院處理個案細微差別的能力。法院的靈活性可以作為監(jiān)管框架的必要補充，確保正義在復(fù)雜情境中仍能得到伸張。

第四，監(jiān)管沙盒的概念應(yīng)得到廣泛應(yīng)用。通過創(chuàng)建受控的測試環(huán)境，并在其中應(yīng)用標準化的評估標準，創(chuàng)新者可以在確保風險得到有效監(jiān)控與管理的前提下，對新的人工智能應(yīng)用進行試驗。這為“負責任的創(chuàng)新”提供了實踐路徑。

第五，設(shè)立安全港條款。為那些能夠證明自己已遵守既定治理與安全標準的組織提供一定程度的法律保護（例如在責任訴訟中適用過錯推定而非嚴格責任），可以極大地激勵企業(yè)采納最佳實踐，并降低合規(guī)開發(fā)者的不可預(yù)見的責任風險。

第六，必須引入共同責任框架。人工智能生態(tài)系統(tǒng)涉及開發(fā)者、部署者、集成商乃至最終用戶等多個主體。當發(fā)生損害時，責任應(yīng)根據(jù)各方的控制能力、參與程度與過失情況，在這一生態(tài)系統(tǒng)中進行合理分配。這有助于培養(yǎng)一種集體責任感，促使所有參與方共同致力于減輕人工智能系統(tǒng)的潛在危害。

六、

結(jié)論：邁向負責任創(chuàng)新的未來

人工智能的侵權(quán)責任與治理是一個動態(tài)且復(fù)雜的領(lǐng)域，其發(fā)展將直接影響到技術(shù)創(chuàng)新的方向與社會的安全穩(wěn)定。未來的治理框架必須在減輕風險與促進技術(shù)進步之間取得謹慎的平衡。過度約束可能使我們錯失人工智能在醫(yī)療、教育、環(huán)保等領(lǐng)域帶來的巨大社會效益；而放任自流則可能導致個人權(quán)益受損、市場失序甚至公共安全危機。通過采納上述融合了主動治理、行業(yè)監(jiān)管、司法靈活性、沙盒測試、安全港激勵與共同責任的綜合性方案，政策制定者可以構(gòu)建一個兼具韌性、適應(yīng)性與前瞻性的治理體系。這一體系的核心目標，是為人工智能的健康發(fā)展鋪平道路，確保其巨大的變革潛力能夠在堅實的倫理與法律基石上得以釋放，最終引領(lǐng)我們走向一個既充滿創(chuàng)新活力又具備充分安全保障的數(shù)字未來。

免責聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達不同觀點，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡介

國際技術(shù)經(jīng)濟研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機構(gòu)，主要職能是研究我國經(jīng)濟、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)�！叭蚣夹g(shù)地圖”為國際技術(shù)經(jīng)濟研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er