11月8日，紅十字國(guó)際委員會(huì)主席中國(guó)事務(wù)個(gè)人特使、東亞地區(qū)代表處主任史德林應(yīng)邀出席2025世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)，并在人工智能技術(shù)創(chuàng)新與治理論壇上發(fā)表講話。

圖片來(lái)源：主辦方

采用以人為本的方法

發(fā)展與使用人工智能

尊敬的來(lái)賓，

女士們、先生們，

首先，感謝主辦方邀請(qǐng)紅十字國(guó)際委員會(huì)參加本次論壇，能夠在此就發(fā)展與使用人工智能與各位分享來(lái)自人道視角的觀點(diǎn)，我深感榮幸。

紅十字國(guó)際委員會(huì)是一個(gè)公正、中立和獨(dú)立的組織。自1863年以來(lái)，紅十字國(guó)際委員會(huì)的唯一目標(biāo)就是確保武裝沖突和其他暴力局勢(shì)下的受影響民眾獲得人道保護(hù)與援助。

那么，紅十字國(guó)際委員會(huì)這樣一個(gè)人道組織，為什么要討論人工智能呢？

簡(jiǎn)單來(lái)說(shuō)，人工智能的快速發(fā)展為人道部門(mén)帶來(lái)了重大機(jī)遇，但也帶來(lái)了新風(fēng)險(xiǎn)。

紅十字國(guó)際委員會(huì)致力于探索人工智能的進(jìn)步是否能夠、如何能夠、以及在何時(shí)何地能夠幫助我們實(shí)現(xiàn)人道使命。同時(shí)，對(duì)于人工智能為身處沖突或其他暴力局勢(shì)中民眾的生命和尊嚴(yán)帶來(lái)的風(fēng)險(xiǎn)，我們也深感有責(zé)任加強(qiáng)理解并減輕此類(lèi)風(fēng)險(xiǎn)，并倡導(dǎo)相關(guān)方負(fù)責(zé)任地使用人工智能。

人工智能對(duì)人道組織有諸多潛在益處。例如，紅十字國(guó)際委員會(huì)開(kāi)發(fā)了自己的聊天機(jī)器人，便于工作人員獲取信息和起草報(bào)告。以人工智能為基礎(chǔ)的視覺(jué)識(shí)別技術(shù)能夠?qū)ψ詰?zhàn)區(qū)回收的文件照片、軍人身份牌和書(shū)面報(bào)告進(jìn)行分析，如今已經(jīng)用于識(shí)別失蹤的平民和戰(zhàn)斗員。此外，目前正在進(jìn)行測(cè)試，將人工智能用于優(yōu)化援助物資的運(yùn)輸路線，改善分布式網(wǎng)絡(luò)的資源分配，并支持情景規(guī)劃和模擬推演。

與此同時(shí)，如果使用不完整、過(guò)時(shí)、錯(cuò)誤或含有偏見(jiàn)的數(shù)據(jù)訓(xùn)練人工智能系統(tǒng)，可能會(huì)產(chǎn)生錯(cuò)誤預(yù)測(cè)和不當(dāng)決策。這可能會(huì)導(dǎo)致某些群體的代表性過(guò)高，同時(shí)對(duì)特定種族、國(guó)籍、性別或年齡群體產(chǎn)生偏見(jiàn)，阻礙他們獲得援助，甚至讓他們面臨更大風(fēng)險(xiǎn)。對(duì)于本就在沖突和危機(jī)中艱難度日的社區(qū)而言，這種風(fēng)險(xiǎn)不可接受。

另外，紅十字國(guó)際委員會(huì)也在評(píng)估交戰(zhàn)各方發(fā)展和使用人工智能所帶來(lái)的風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)塑造了我們開(kāi)展行動(dòng)的環(huán)境。例如，生成式人工智能和其他數(shù)字技術(shù)顯著加快了有害信息的傳播，從而加劇社會(huì)分化，削弱人道工作者得到的信任、接受與安全保障，并增加平民遭受傷害的風(fēng)險(xiǎn)。

2024年，紅十字國(guó)際委員會(huì)發(fā)布了人工智能機(jī)構(gòu)政策，為本組織探索利用人工智能助力實(shí)現(xiàn)人道使命提供了指導(dǎo)。這一政策旨在確保本組織上下使用人工智能時(shí)始終做到負(fù)責(zé)、安全且協(xié)調(diào)一致，最重要的是，以人為本。

點(diǎn)擊圖片，了解紅十字國(guó)際委員會(huì)人工智能機(jī)構(gòu)政策

通過(guò)采用以人為本的方法，紅十字國(guó)際委員會(huì)維護(hù)一個(gè)簡(jiǎn)單但有力的原則：技術(shù)必須服務(wù)于人類(lèi)。無(wú)論人工智能系統(tǒng)如何進(jìn)步，事關(guān)民眾生命、權(quán)利和尊嚴(yán)的決策必須始終掌握在人類(lèi)手中。雖然人工智能有助于提高人道工作的效果，但它無(wú)法取代人類(lèi)的判斷力、同理心與責(zé)任感。

作為人道組織，與受影響民眾保持并加強(qiáng)近距離接觸和親近感非常重要，這會(huì)幫助我們建立信任，以響應(yīng)不斷變化的各類(lèi)需求。人工智能無(wú)法取代人與人之間的溝通互動(dòng)。因此，紅十字國(guó)際委員會(huì)在使用與發(fā)展人工智能解決方案時(shí)，特別注重確保這不會(huì)削弱人與人之間直接溝通、展示人道關(guān)懷和同理心的能力。

與此同時(shí)，遭到濫用或設(shè)計(jì)不當(dāng)?shù)娜斯ぶ悄芸赡軙?huì)加劇歧視、引入有害偏見(jiàn)、甚至催生出新的排斥形式，對(duì)已經(jīng)飽受苦難的社區(qū)造成更深重的傷害。

正因如此，紅十字國(guó)際委員會(huì)始終堅(jiān)持審慎使用人工智能，僅用于其真正能夠帶來(lái)價(jià)值的領(lǐng)域，確保解決方案公平、透明，并力求遵循人道部門(mén)長(zhǎng)期堅(jiān)持的“不傷害”原則。

圖片來(lái)源：主辦方

女士們、先生們，

我們正面對(duì)著一個(gè)變亂交織的世界，安全失序、發(fā)展失衡和治理失效日益突出。目前，紅十字國(guó)際委員會(huì)統(tǒng)計(jì)的全球武裝沖突數(shù)量已超過(guò)130場(chǎng)，這一數(shù)字在過(guò)去15年中增長(zhǎng)逾倍。許多沖突伴隨著激烈的暴力，廣泛的破壞和對(duì)人道援助的限制。

作為人道組織，紅十字國(guó)際委員會(huì)無(wú)法制止沖突。但是為了有效援助武裝沖突中的民眾，紅十字國(guó)際委員會(huì)必須首先評(píng)估當(dāng)前及未來(lái)短期內(nèi)武裝沖突發(fā)展所帶來(lái)的影響。

事實(shí)上，將人工智能融入軍事行動(dòng)已經(jīng)引發(fā)了許多法律、倫理和人道關(guān)切。例如，人工智能輔助決策支持系統(tǒng)正以超越人類(lèi)認(rèn)知能力的方式，影響著武裝沖突中選擇攻擊目標(biāo)的軍事決策過(guò)程并加快決策速度，而這可能會(huì)帶來(lái)決策質(zhì)量的下降。同時(shí)，自主人工智能體能夠在短短幾秒鐘內(nèi)對(duì)民用服務(wù)發(fā)動(dòng)復(fù)雜網(wǎng)絡(luò)攻擊，這將大幅減少發(fā)現(xiàn)并防止此類(lèi)攻擊的響應(yīng)時(shí)間。另外，未來(lái)若使用自主武器系統(tǒng)，會(huì)出現(xiàn)適用目標(biāo)范圍更廣、使用時(shí)間更長(zhǎng)以及人類(lèi)干預(yù)機(jī)會(huì)更少的情況。

為了應(yīng)對(duì)這些問(wèn)題，紅十字國(guó)際委員會(huì)今年向聯(lián)合國(guó)秘書(shū)長(zhǎng)提交了一份立場(chǎng)文件，闡釋本組織的觀點(diǎn)并呼吁制定明確規(guī)則，限制或禁止自主武器系統(tǒng)。

本組織堅(jiān)定不移地秉持一項(xiàng)原則：無(wú)論自主武器系統(tǒng)的技術(shù)如何精進(jìn)，人類(lèi)必須掌握最終控制權(quán)。

女士們、先生們，

2023年，在會(huì)見(jiàn)紅十字國(guó)際委員會(huì)主席米里亞娜·斯波利亞里茨時(shí)，習(xí)近平主席強(qiáng)調(diào)“中國(guó)始終是國(guó)際人道主義事業(yè)的積極擁護(hù)者、參與者和貢獻(xiàn)者?！?/p>

今年適逢紅十字國(guó)際委員會(huì)東亞地區(qū)代表處在北京成立20周年。

中國(guó)是具有重要國(guó)際影響力的大國(guó)，也是紅十字國(guó)際委員會(huì)的全球主要采購(gòu)中心之一，紅十字國(guó)際委員會(huì)正在深入理解中國(guó)對(duì)國(guó)際合作、發(fā)展、武裝沖突與和平的觀點(diǎn)。與此同時(shí)，紅十字國(guó)際委員會(huì)正在擴(kuò)大與中國(guó)的各領(lǐng)域合作，尤其是技術(shù)部門(mén)的合作。借助世界互聯(lián)網(wǎng)大會(huì)等重要平臺(tái)，紅十字國(guó)際委員會(huì)正積極加強(qiáng)與中國(guó)技術(shù)部門(mén)的溝通接觸，探索使用中國(guó)人工智能和其他技術(shù)解決方案為人道行動(dòng)提供支持的可能性，并就其負(fù)責(zé)任的使用與發(fā)展方面促進(jìn)對(duì)話溝通。

女士們、先生們，

人工智能正在重塑世界，速度超出想象。對(duì)紅十字國(guó)際委員會(huì)來(lái)說(shuō)，我們的選擇清晰明了：人工智能必須始終服務(wù)于人類(lèi)——守護(hù)尊嚴(yán)、保全生命，并且絕不能取代人類(lèi)悲憫之心這一人道行動(dòng)的核心。這就意味著，我們要積極采納能夠加強(qiáng)人道行動(dòng)的創(chuàng)新技術(shù)，但堅(jiān)決抵制削弱人類(lèi)控制、問(wèn)責(zé)機(jī)制或悲憫之心的使用方式。這也意味著，我們要與中國(guó)在內(nèi)的全球合作伙伴攜手共建規(guī)則與保障機(jī)制，讓人工智能成為保護(hù)之力，而非傷害之源。

謝謝大家。

01

●出版物甄選 | 《紅十字國(guó)際委員會(huì)的人工智能政策》

02

●紅十字國(guó)際委員會(huì)舉辦專(zhuān)題討論 聚焦人工智能在武裝沖突中的運(yùn)用

03

●活動(dòng)預(yù)告 | 從國(guó)際人道法到人道行動(dòng)：探索通向和平的路徑

04

● ICRC在華二十年 | 高層訪華 持續(xù)推動(dòng)與中國(guó)戰(zhàn)略合作

紅十字國(guó)際委員會(huì)