日前，紅十字國(guó)際委員會(huì)主席中國(guó)事務(wù)個(gè)人特使、東亞地區(qū)代表處主任史德林應(yīng)邀出席2025世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)。在11月8日的上，史德林介紹了人工智能技術(shù)在人道領(lǐng)域的應(yīng)用和風(fēng)險(xiǎn)，呼吁各方攜手共建規(guī)則與保障機(jī)制，讓人工智能成為保護(hù)之力，而非傷害之源。在11月9日舉辦的網(wǎng)絡(luò)空間國(guó)際規(guī)則論壇上，史德林重點(diǎn)闡述了在制定人工智能及其治理的國(guó)際規(guī)則時(shí)必須關(guān)注的若干關(guān)鍵人道考量。

圖片來(lái)源：主辦方

人工智能及其治理的

國(guó)際規(guī)則塑造：人道考量

在開(kāi)始發(fā)言?xún)?nèi)容之前，請(qǐng)?jiān)试S我簡(jiǎn)要介紹我所任職的組織——紅十字國(guó)際委員會(huì)。紅十字國(guó)際委員會(huì)是一個(gè)公正、中立和獨(dú)立的組織，其特有的人道使命是保護(hù)武裝沖突和其他暴力局勢(shì)受難者的生命與尊嚴(yán)，并向他們提供援助。160多年來(lái)，紅十字國(guó)際委員會(huì)在無(wú)數(shù)戰(zhàn)爭(zhēng)和武裝沖突中開(kāi)展行動(dòng)，為亟需幫助之人提供援助。

紅十字國(guó)際委員會(huì)在戰(zhàn)爭(zhēng)和沖突中開(kāi)展行動(dòng)的獨(dú)特職責(zé)，使我們得以親眼目睹了這些局勢(shì)對(duì)平民居民的影響，這些來(lái)自一線的觀察深刻影響了我們對(duì)國(guó)際法發(fā)展的貢獻(xiàn)，也構(gòu)成了我今天發(fā)言的基礎(chǔ)。

今天，我將重點(diǎn)闡述在制定人工智能及其治理的國(guó)際規(guī)則時(shí)必須關(guān)注的若干關(guān)鍵人道考量。

首先，我想談?wù)勛灾魑淦飨到y(tǒng)中人工智能的使用問(wèn)題。

紅十字國(guó)際委員會(huì)認(rèn)為，自主武器系統(tǒng)是在沒(méi)有人類(lèi)干預(yù)的情況下選擇目標(biāo)并對(duì)其使用武力的武器系統(tǒng)。這就意味著，自主武器系統(tǒng)在最初由人啟動(dòng)或發(fā)射后，能夠自行選擇目標(biāo)并發(fā)動(dòng)攻擊。隨著人工智能技術(shù)的發(fā)展，人工智能完全可以在自主武器系統(tǒng)中用于執(zhí)行目標(biāo)識(shí)別和選擇。換言之，如今存在將事關(guān)生死的決策交由機(jī)器完成，而幾乎或完全無(wú)需人類(lèi)干預(yù)的現(xiàn)實(shí)能力。

因此，自主武器系統(tǒng)無(wú)疑會(huì)帶來(lái)人道、法律和倫理方面的嚴(yán)重關(guān)切。由機(jī)器作出的殺戮決定能否遵守國(guó)際人道法？如果機(jī)器出錯(cuò)，誰(shuí)該為違法行為承擔(dān)責(zé)任并接受問(wèn)責(zé)？國(guó)際人道法要求軍事決策中必須有人類(lèi)的判斷和決策，因?yàn)槿祟?lèi)生命神圣不可侵犯，絕不能由機(jī)器作出生殺予奪的裁斷。

沖突帶來(lái)的人道代價(jià)，往往表現(xiàn)為平民死亡和民用物體被毀，這些都是真切的現(xiàn)實(shí)后果，絕不應(yīng)該被簡(jiǎn)化為冰冷的統(tǒng)計(jì)數(shù)字、代碼和算法。

為了應(yīng)對(duì)這些關(guān)切，紅十字國(guó)際委員會(huì)敦促各國(guó)就自主武器系統(tǒng)制定國(guó)際規(guī)則。具體而言，國(guó)際規(guī)則應(yīng)規(guī)定禁止使用不可預(yù)測(cè)的自主武器系統(tǒng)，以及禁止使用自主武器系統(tǒng)攻擊人類(lèi)。截至目前，有關(guān)自主武器系統(tǒng)的討論仍在持續(xù)進(jìn)行，例如聯(lián)合國(guó)相關(guān)進(jìn)程中的討論。紅十字國(guó)際委員會(huì)和聯(lián)合國(guó)秘書(shū)長(zhǎng)在2026年前就自主武器系統(tǒng)開(kāi)展談判并達(dá)成具有法律約束力的國(guó)際規(guī)則。

其次，我想談?wù)勅斯ぶ悄茉谲娛骂I(lǐng)域更廣泛的使用，例如在軍事規(guī)劃和決策等方面。

誠(chéng)然，當(dāng)代武裝沖突中已經(jīng)出現(xiàn)了用于軍事用途的人工智能決策支持系統(tǒng)，這些計(jì)算機(jī)工具能夠整合多種來(lái)源的數(shù)據(jù)（例如衛(wèi)星圖像、傳感器數(shù)據(jù)、社交媒體信息流），并基于這些數(shù)據(jù)進(jìn)行分析、提出建議或作出預(yù)判。例如，人工智能決策支持系統(tǒng)可以分析無(wú)人機(jī)拍攝素材，并使用圖像分類(lèi)技術(shù)在武裝沖突中識(shí)別并對(duì)潛在攻擊目標(biāo)進(jìn)行分類(lèi)。人工智能決策支持系統(tǒng)能夠?qū)_突進(jìn)程由人類(lèi)速度加速為機(jī)器速度，而這會(huì)帶來(lái)重大風(fēng)險(xiǎn)。

另一個(gè)令人擔(dān)憂的問(wèn)題在于將人工智能用于指導(dǎo)核武器或其他大規(guī)模毀滅性武器的使用決策，這可能會(huì)加劇核武器使用的風(fēng)險(xiǎn)，并造成災(zāi)難性的后果。

從人道角度出發(fā)，使用人工智能決策支持系統(tǒng)可能會(huì)在武裝沖突中為平民和其他受保護(hù)人員帶來(lái)額外的風(fēng)險(xiǎn)。這背后有多種原因，既有人工智能固有的“黑箱問(wèn)題”，還有人工智能并不適合執(zhí)行戰(zhàn)場(chǎng)上的所有任務(wù)，以及人工智能偏見(jiàn)等問(wèn)題。這并不是說(shuō)人工智能無(wú)法為人類(lèi)決策提供支持，但人工智能絕不能取代人類(lèi)決策，尤其在軍事領(lǐng)域更是如此。強(qiáng)調(diào)人類(lèi)控制和人類(lèi)判斷，理應(yīng)成為制定人工智能?chē)?guó)際規(guī)則的首要原則。

2025世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)，網(wǎng)絡(luò)空間國(guó)際規(guī)則論壇

圖片來(lái)源：主辦方

剛才我談的都是人工智能帶來(lái)的風(fēng)險(xiǎn)，但人工智能同時(shí)也為人道領(lǐng)域帶來(lái)了諸多機(jī)遇。正如中國(guó)《人工智能全球治理行動(dòng)計(jì)劃》中所提到的，“人工智能帶來(lái)前所未有發(fā)展機(jī)遇，也帶來(lái)前所未遇風(fēng)險(xiǎn)挑戰(zhàn)”。紅十字國(guó)際委員會(huì)的工作也印證了這一點(diǎn)，我們使用人工智能為人道行動(dòng)提供支持，并取得了積極成果。

我相信，制定國(guó)際規(guī)則定將發(fā)揮關(guān)鍵作用，推動(dòng)人工智能的使用遵守國(guó)際法并符合倫理和人道價(jià)值。人工智能與世間任何工具一樣，如何使用取決于使用者，而使用者的行為則由法律法規(guī)指導(dǎo)。

目前，從聯(lián)合國(guó)進(jìn)程到地區(qū)及雙邊論壇，許多論壇正在就人工智能監(jiān)管開(kāi)展討論，未來(lái)可期。但不可否認(rèn)的是，當(dāng)前討論和磋商的進(jìn)度遠(yuǎn)不及該領(lǐng)域技術(shù)創(chuàng)新的速度。另外，還必須注意，相關(guān)討論不能只關(guān)注人工智能的和平利用，卻忽視在軍事領(lǐng)域使用人工智能可能會(huì)對(duì)平民帶來(lái)破壞性影響這一現(xiàn)實(shí)情況。我們必須共同將人道精神置于人工智能討論的核心位置。人工智能及其治理的國(guó)際規(guī)則制定必須始終堅(jiān)持以人為本，確保無(wú)論如何都充分納入人道考量。

01

●出版物甄選 | 《紅十字國(guó)際委員會(huì)的人工智能政策》

02

●紅十字國(guó)際委員會(huì)舉辦專(zhuān)題討論 聚焦人工智能在武裝沖突中的運(yùn)用

03

●蘇丹 | 紅十字國(guó)際委員會(huì)在法希爾及周邊開(kāi)展的應(yīng)對(duì)工作

04

● 紅十字國(guó)際委員會(huì)如何在哈馬斯-以色列?；饏f(xié)議框架下協(xié)助遺體返還

紅十字國(guó)際委員會(huì)