9月5日，為期兩天的以“AI時(shí)代的人道行動(dòng)：連接與韌性”為主題的第四屆東吳國際人道論壇在蘇州開幕。

在主論壇上，紅十字國際委員會東亞地區(qū)代表處人道事務(wù)與政策主管菲奧娜·巴納比就“人工智能、倫理與武裝沖突”為題發(fā)表了主題演講。

各位閣下，
女士們、先生們：

首先，請?jiān)试S我感謝中國紅十字會、中國紅十字基金會、紅十字國際學(xué)院、紅十字會與紅新月會國際聯(lián)合會以及中國紅十字會的慈善領(lǐng)域合作伙伴，共同舉辦以“人工智能時(shí)代的人道行動(dòng)：連接與韌性”為主題的第四屆蘇州國際人道論壇。

今天，我想談?wù)勅斯ぶ悄堋惱砼c武裝沖突。

正如紅十字國際委員會主席米里亞娜·斯波利亞里茨近期在一次公開發(fā)言中所示：現(xiàn)實(shí)已不容忽視——我們正處在一個(gè)被戰(zhàn)爭定義的十年。

結(jié)合本次論壇的主題，我想進(jìn)一步補(bǔ)充：我們正處在一個(gè)將被人工智能定義的十年。

日益數(shù)字化和互聯(lián)的世界為社會、經(jīng)濟(jì)、發(fā)展、人道、信息及通信領(lǐng)域帶來了機(jī)遇。這一進(jìn)步

• 可以在武裝沖突中幫助拯救生命，改善生存條件。

• 可以為受影響人群提供物資和服務(wù)，比如醫(yī)療服務(wù)；幫助社區(qū)獲取能挽救生命的重要信息，并在武裝沖突中重建或維持家庭聯(lián)系。

紅十字國際委員會的中央尋人局和家庭聯(lián)系網(wǎng)絡(luò)正利用數(shù)字工具來幫助家庭團(tuán)聚。“尋找面孔”（Trace the Face）就是這樣的一項(xiàng)舉措，在這個(gè)網(wǎng)站上，尋找失蹤親屬的人可以上傳和查看照片，以便相互找到對方。

毫無意外，數(shù)字技術(shù)的進(jìn)步持續(xù)帶來諸多益處，也讓不愿落后于時(shí)代的人道工作者唯恐錯(cuò)失良機(jī)。然而，這些技術(shù)進(jìn)步也為受沖突影響的人群及試圖幫助他們的人道組織帶來了若干風(fēng)險(xiǎn)。我列舉三個(gè)趨勢：

• 用于網(wǎng)絡(luò)行動(dòng)的人工智能針對平民或民用基礎(chǔ)設(shè)施發(fā)動(dòng)襲擊，破壞此類基礎(chǔ)設(shè)施提供的基本服務(wù)。

• 沖突環(huán)境中有害信息的傳播（例如利用“深度偽造”技術(shù)制作逼真卻虛假的音視頻內(nèi)容），可能對受沖突影響人群造成嚴(yán)重沖擊，引發(fā)流離失所，加劇沖突激烈程度，其后果遠(yuǎn)不止于此。

• 人工智能被用于支持軍事決策，包括在無人工干預(yù)的情況下操控戰(zhàn)爭。

隨著全球各地的民眾日益依賴數(shù)字和電信網(wǎng)絡(luò)獲得基本服務(wù)、聯(lián)絡(luò)家人以及尋求幫助，武裝沖突中日益頻發(fā)的網(wǎng)絡(luò)中斷令人越發(fā)為民眾的安全和尊嚴(yán)感到擔(dān)憂。詳見：

根據(jù)近期新聞報(bào)道，某參與持續(xù)沖突的武裝力量開發(fā)的人工智能系統(tǒng)，在特定區(qū)域內(nèi)識別出多達(dá)3.7萬個(gè)潛在打擊目標(biāo)。這種技術(shù)看似具有驚人效率，仿佛能最大化軍事資源利用率。但弊端在于，該程序本身設(shè)定了10%的誤差容限，即3700名不應(yīng)被列為目標(biāo)的對象可能遭受打擊；更令人擔(dān)憂的是，攻擊授權(quán)竟因程序?qū)⑻囟〝?shù)量平民依據(jù)其社會等級劃分為"可接受"的附帶損傷而被批準(zhǔn)，或得到合法性認(rèn)定。

人工智能技術(shù)不僅加速了戰(zhàn)爭節(jié)奏，更看似"增強(qiáng)"或“改善”了攻擊中的國際人道法合規(guī)性。

歡迎來到數(shù)字化、高速化、自動(dòng)駕駛模式的戰(zhàn)爭新紀(jì)元。

事無善惡，思想使然。
人工智能本身無對錯(cuò)，是人類的思維與抉擇賦予了其價(jià)值屬性。

事實(shí)上，人工智能的價(jià)值無法通過簡單的二元對立思維來體現(xiàn)。人類開發(fā)人工智能，并決定在武裝沖突中何時(shí)以及如何使用該技術(shù)。因此，紅十字國際委員會認(rèn)為，任何新技術(shù)，以及任何新武器，都必須符合人道規(guī)則或倫理。

規(guī)制各方戰(zhàn)爭行為的規(guī)則并未就人工智能、自主武器或數(shù)字空間做出具體規(guī)定。就此而言，歷經(jīng)時(shí)間錘煉的戰(zhàn)爭規(guī)則，即國際人道法，涉及三個(gè)特定作戰(zhàn)領(lǐng)域——空中、海上和陸地。隨著時(shí)間的推移，隨著新領(lǐng)域（如外層空間、數(shù)字空間甚至低空空間）的出現(xiàn)，紅十字國際委員會的信條始終如一：國際人道法適用于任何空間中使用任何武器或作戰(zhàn)方式，不存在治理或監(jiān)管的空白。

沒有黑洞、灰色地帶或不受管制空間。這些規(guī)則和倫理力求在武裝沖突中維護(hù)人性微光，無論武裝沖突發(fā)生在何領(lǐng)域，無論使用何種數(shù)字工具，它們都持續(xù)適用。因此，關(guān)于如何作戰(zhàn)的倫理或規(guī)則是“技術(shù)中立”的，即使技術(shù)本身并非中立。

因此，紅十字國際委員會與技術(shù)利益相關(guān)方，無論是開發(fā)者、用戶、公司、從業(yè)者、愛好者、倡導(dǎo)者甚至反對者，就人工智能和技術(shù)的潛在影響進(jìn)行交流，特別是對受沖突影響的人群和人道行動(dòng)的影響。

隨著數(shù)字領(lǐng)域以閃電般的速度發(fā)展，人道組織面臨的挑戰(zhàn)是確保我們被視為中立、獨(dú)立的人道行動(dòng)者，并以此身份參與其中。如果數(shù)字連接與韌性是地緣政治博弈的一部分，人道工作者就必須妥善應(yīng)對其在準(zhǔn)入、資金及接納等方面對國家、捐助方和受影響群體的依賴，確保我們能夠以中立和獨(dú)立的方式持續(xù)工作。

為此，紅十字國際委員會于2024年通過并發(fā)布了人工智能政策。這份政策文件將作為愿景工具，支持委員會負(fù)責(zé)任地使用數(shù)字技術(shù)并符合我們的人道使命。

掃描二維碼
即刻開啟閱讀

該政策確立了基于價(jià)值觀的人工智能使用方法，涉及人道原則（人道、公正、中立、獨(dú)立）以及賦能和學(xué)習(xí)，旨在促進(jìn)合乎道德和有影響力的創(chuàng)新以及競爭力和能力建設(shè)。該政策還介紹了使用人工智能技術(shù)指導(dǎo)原則，包括比例原則、預(yù)防原則和“不傷害”原則，安全和安保，透明度與“可解釋性”、責(zé)任制和問責(zé)制�？偨Y(jié)如下：

• 數(shù)字空間并非法外之地，包括在武裝沖突期間。

• 國家、科技公司和其他行為體最有條件確保負(fù)責(zé)任和符合倫理地使用人工智能。中國的全球人工智能治理倡議就是一個(gè)很好的例子。

• 它們有能力且應(yīng)被鼓勵(lì)打造符合國際人道法及人道原則和倫理的數(shù)字工具，尤其在武裝沖突中。

• 保護(hù)平民免受數(shù)字威脅需要在立法、政策和實(shí)踐層面的投入。這符合去年紅十字與紅新月運(yùn)動(dòng)第34屆國際大會上通過的關(guān)于武裝沖突中信息通信技術(shù)的決議。

• 數(shù)字技術(shù)，如人工智能，在人道領(lǐng)域具有廣泛應(yīng)用的潛力。紅十字國際委員會及該領(lǐng)域的其他組織應(yīng)該且可以在堅(jiān)守其人道原則的前提下，負(fù)責(zé)任且合乎倫理地探索人工智能。

數(shù)字技術(shù)本身并無善惡之分，賦予其善惡的是我們——開發(fā)者、用戶、消費(fèi)者。

本屆東吳論壇由中國紅十字會總會、蘇州大學(xué)主辦，中國紅十字基金會、紅十字國際學(xué)院承辦，紅十字會與紅新月會國際聯(lián)合會、紅十字國際委員會支持。

來自聯(lián)合國、無國界醫(yī)生等國際組織和15個(gè)國家紅會，中國紅十字會總會及各地方分會，相關(guān)政府部門、社會組織、企業(yè)、高校負(fù)責(zé)人出席論壇并進(jìn)行研討交流。

01

●阿富汗：紅十字國際委員會開展行動(dòng) 應(yīng)對致命地震災(zāi)害

02

●加沙 | 紅十字戰(zhàn)地醫(yī)院行動(dòng)概述

03

●一線故事 | 在敘利亞做“拆彈專家”

04

● 人道之星國際人道法網(wǎng)絡(luò)競賽 | 答題贏限量版紀(jì)念套裝

紅十字國際委員會