2025年12月5日，由紅十字國際委員會與清華大學戰(zhàn)略與安全研究中心聯(lián)合主辦的“人道主義行動中技術負責任使用”研討會在北京圓滿落幕。為期兩天的會議深入探討了如何人道地、合乎倫理地、負責任地在人道行動中使用包括人工智能在內的新興技術。

本次研討會匯聚了來自聯(lián)合國機構、國際組織、高校、智庫及產業(yè)界的約80位國內外杰出學者、人道工作者和技術專家。

平衡機遇與風險

隨著人工智能等新興技術在全球快速發(fā)展，在提升效率的同時，數字鴻溝、算法偏見和數據泄露等風險引發(fā)了越來越多的擔憂。

清華大學校務委員會副主任楊斌致開幕辭。

清華大學戰(zhàn)略與安全研究中心副主任肖茜主持了研討會開幕式?！?strong>縱觀人類文明長河，技術始終是社會進步的驅動力。但正因技術蘊含巨大潛力，我們必須確保負責任地加以使用，”清華大學校務委員會副主任楊斌表示。

他重點介紹了中國和清華大學在推進人工智能倫理、治理及科技向善行動方面所做的努力，并表示相信本次研討會將為與會者提供一個交流見解、分享經驗的平臺，并就如何在人道行動中負責任地使用技術達成共識。

紅十字國際委員會主席中國特使兼東亞地區(qū)代表處主任史德林致開幕辭。

作為一個中立的人道組織，紅十字國際委員會認識到人工智能的迅猛發(fā)展既為人道領域帶來了重大機遇，也帶來了全新的風險。2024年，委員會制定了《人工智能政策》以指導如何利用人工智能為其人道使命提供支持。該政策旨在確保全組織范圍內的人工智能應用始終遵循負責任、安全可靠、協(xié)調一致的原則，并始終以人為本。

紅十字國際委員會主席中國特使兼東亞地區(qū)代表處主任史德林在開幕致辭中強調：“我們期待共同探索能夠為人道行動提供支持的技術解決方案，就如何負責任地開發(fā)和使用技術以造福人類進行對話并推動其進展。”

中國在技術領域的領導地位為人道行動提供了巨大機遇。通過攜手合作，我們能夠開發(fā)優(yōu)先考慮人道、安全與尊嚴的解決方案，同時應對新興技術帶來的風險。

多元視角

四位主旨演講嘉賓就如何在人道工作中以合乎倫理、安全有效的方式使用技術展開探討，各抒己見。

龔克 中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長

中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克就如何在人道行動中負責任使用人工智能，提出了多個實用路徑：優(yōu)先開發(fā)解決緊迫人道需求的應用，確保數據集的包容性與代表性，建立全球事件報告與學習系統(tǒng)，并構建問責機制。

戴懷成 中國軍控與裁軍協(xié)會秘書長

中國軍控與裁軍協(xié)會秘書長戴懷成介紹了中國最近發(fā)表的《新時代的中國軍控、裁軍與防擴散》白皮書，表示該文件首次專題闡述了中國在人工智能軍事應用領域的政策主張，倡導踐行人類命運共同體理念，堅持發(fā)展安全并重，確保人工智能軍事應用安全、可靠、可控。白皮書還指出，應確保人工智能軍事應用符合國際人道法和其他適用的國際法。

埃爾斯·德布夫 紅十字國際委員會盧森堡全球網絡事務代表處主任

紅十字國際委員會盧森堡全球網絡事務代表處主任埃爾斯·德布夫強調，通過其機構戰(zhàn)略、《人工智能政策》及紅十字與紅新月運動關于保護武裝沖突中平民免受數字傷害的決議，委員會致力于實現(xiàn)秉持原則的數字化轉型。她強調人道與科技領域需加強合作，呼吁在新科技產品和工具的設計階段就融入人道倫理，因為后期調整將使整合過程變得復雜且困難。

曾毅 北京前瞻人工智能安全與治理研究院創(chuàng)始院長

北京前瞻人工智能安全與治理研究院創(chuàng)始院長曾毅警告稱，人工智能系統(tǒng)正變得日漸強大，但相應的安全改進措施卻未能同步。他主導和參與的多項測評結果顯示，大型人工智能模型容易受到攻擊，包括在高風險的科學和軍事領域，并強調科學原理上無法通過數字證明來保證絕對安全。他呼吁在不可接受的人工智能用途方面劃定明確的國際“紅線”，并敦促采取協(xié)調一致的全球行動，以防止災難性風險，維護國際和平與安全。

應對挑戰(zhàn)并探索解決方案

主旨演講之后的小組討論聚焦新興技術在人道主義行動中的挑戰(zhàn)與機遇，為后續(xù)四場專題圓桌會議奠定了基礎。

小組討論由史德林主持。清華大學戰(zhàn)略與安全研究中心副主任陳琪、瑞士洛桑聯(lián)邦理工學院教授安德烈亞·卡瓦拉羅（Andrea Cavallaro）、伏羲智庫創(chuàng)始人李曉東及紅十字國際委員會數字轉型和數據部門全球人工智能顧問布萊茲·羅貝爾（Blaise Robert）四位嘉賓，通過案例展示了數字工具在危機應對中的潛力及其引發(fā)的倫理、治理與安全挑戰(zhàn)。

四場分論壇圓桌會議分別聚焦人道行動中技術使用的四大關鍵維度：

• 首場分論壇探討負責任的人工智能，審視治理模式、倫理框架及跨部門合作機遇，從而在降低風險（尤其針對弱勢群體）的同時發(fā)揮人工智能的最大效益。

• 第二場分論壇圍繞“技術向善”，探討領先的科技企業(yè)如何在脆弱環(huán)境中以合乎倫理且可持續(xù)的方式應用創(chuàng)新成果與社會責任倡議。

• 第三場分論壇聚焦人工智能的安全保障，審視實際保障措施、風險緩解建議及人道行動中人工智能的負責任使用。

• 第四場分論壇則探討數字信任問題，研究如何在人道行動中建立、維護并增強對數字服務與技術的信任。

在研討會的各個環(huán)節(jié)中，與會者均強調需建立強有力的治理機制、推廣最佳行動實踐，并開展合作，確保技術能夠為秉持原則且高效的人道行動提供支持。

展望未來：以人為本的技術

盡管與會嘉賓觀點各異，但卻達成一項共識：當以負責任的方式使用技術并遵循人道原則時，能夠增強受沖突和危機影響民眾的安全、尊嚴和韌性。通過將人道置于技術設計與部署的核心，創(chuàng)新既能切實支持受影響社區(qū)，又能最大限度降低倫理與行動風險，使技術成為人道行動中兼具實用性與原則性的工具。

本次研討會是紅十字國際委員會在中國這一全球最重要的創(chuàng)新中心之一舉辦的首場聚焦科技的活動。作為加強紅十字國際委員會與中國科技界對話合作的努力之一，此次研討會不僅深化了中國民眾對紅十字國際委員會及人道局勢的理解，也拉近了紅十字國際委員會與中國科技界的距離。北京研討會是紅十字國際委員會全球系列研討會的第三站，旨在匯聚多元視角探討技術在人道領域的應用，以應對風險并為長期存在的人道問題尋求創(chuàng)新解決方案。

01

●出版物甄選 | 《紅十字國際委員會的人工智能政策》

02

●二十載風雨同舟，二十載人道相伴

03

●紅十字國際委員會將在沖突加劇、財務緊張背景下聚焦一線工作

04

● 最新報告 | 全球約2.04億人生活在由武裝團體控制或爭奪的地區(qū)

紅十字國際委員會