導(dǎo)語(yǔ)：2025年9月，布魯金斯學(xué)會(huì)（Brookings）發(fā)表研究文章《人工智能的安全性與可靠性能夠推動(dòng)全球大多數(shù)國(guó)家的創(chuàng)新發(fā)展》（AI safety and security can enable innovation in Global Majority countries），深入剖析了當(dāng)前全球人工智能治理中一個(gè)核心的緊張關(guān)系，即在推動(dòng)創(chuàng)新與確保安全之間的權(quán)衡取舍。文章駁斥了“安全阻礙創(chuàng)新”的普遍論調(diào)，并指出，對(duì)于占世界多數(shù)人口的全球南方國(guó)家而言，對(duì)人工智能安全與保障的投入不僅不是發(fā)展的障礙，反而是實(shí)現(xiàn)可持續(xù)創(chuàng)新與長(zhǎng)期發(fā)展的關(guān)鍵賦能條件。通過(guò)分析系統(tǒng)性風(fēng)險(xiǎn)、信任構(gòu)建與全球權(quán)力平衡等多個(gè)維度，該文章為即將于2026年2月在印度舉行的人工智能影響峰會(huì)提供了一條彌合分歧、重塑全球人工智能合作議程的新思路。啟元洞見(jiàn)編譯整理了其中的核心內(nèi)容，以供讀者參考。

一、破除迷思：

在創(chuàng)新與安全的二元對(duì)立之外

在當(dāng)代人工智能治理的辯論中，一個(gè)核心的緊張關(guān)系在于人們普遍認(rèn)為在推動(dòng)創(chuàng)新與確保安全及保障之間存在著一種此消彼長(zhǎng)的權(quán)衡。其中，人工智能安全（AI safety）旨在預(yù)防先進(jìn)系統(tǒng)可能帶來(lái)的各種危害，涵蓋災(zāi)難性的濫用、算法偏見(jiàn)、勞動(dòng)力市場(chǎng)顛覆等等；人工智能保障（AI security）則側(cè)重于在模型的設(shè)計(jì)、實(shí)施和部署全過(guò)程中保護(hù)其完整性。盡管這兩者作為必要條件已日益成為共識(shí)，但它們常常被描繪為創(chuàng)新的“絆腳石”。

這種觀念催生了一種潛在的敘事，即優(yōu)先考慮安全與保障可能會(huì)延緩技術(shù)的采納，從而限制各國(guó)充分享受人工智能帶來(lái)的經(jīng)濟(jì)和發(fā)展紅利，尤其是全球南方國(guó)家。全球人工智能峰會(huì)的議程演變也從側(cè)面強(qiáng)化了這種二元對(duì)立的話語(yǔ)。2023年，在英國(guó)舉行的布萊切利公園峰會(huì)（Bletchley Park Summit）將安全問(wèn)題，特別是圍繞前沿模型的風(fēng)險(xiǎn)，置于國(guó)際討論的中心。相比之下，2025年，巴黎人工智能行動(dòng)峰會(huì)（Paris AI Action Summit）則更強(qiáng)調(diào)創(chuàng)新，高調(diào)宣布了大規(guī)模的資金承諾，并將監(jiān)管視為進(jìn)步的潛在障礙。同年，于基加利召開(kāi)的非洲全球人工智能峰會(huì)上，則呈現(xiàn)出另一種更為技術(shù)樂(lè)觀主義的愿景視角，并在《非洲人工智能宣言》（Africa Declaration on AI）中得以正式確立，該宣言側(cè)重于發(fā)掘發(fā)展的潛力，對(duì)系統(tǒng)性風(fēng)險(xiǎn)的關(guān)注相對(duì)較少。

對(duì)于全球南方國(guó)家而言，其中的利害關(guān)系尤為重大。一方面，由于抵御系統(tǒng)性沖擊的資源相對(duì)匱乏，這些國(guó)家可能會(huì)不成比例地承擔(dān)更多人工智能帶來(lái)的風(fēng)險(xiǎn)；另一方面，彌合日益擴(kuò)大的人工智能鴻溝的壓力又促使它們迫切需要采納新興的人工智能技術(shù)。

在此背景下，我們必須重新審視安全與保障的角色。它不應(yīng)被視為創(chuàng)新的成本，而應(yīng)被視為實(shí)現(xiàn)可持續(xù)創(chuàng)新的前提條件。2026年2月,人工智能影響峰會(huì)（AI Impact Summit）即將于印度舉行,這提供了一個(gè)獨(dú)特的機(jī)會(huì)。該峰會(huì)植根于印度總理莫迪提出的“為解決現(xiàn)實(shí)挑戰(zhàn)而普及人工智能”的愿景，以及印度人工智能在技術(shù)法規(guī)方面將監(jiān)管措施與技術(shù)解決方案相結(jié)合的創(chuàng)新舉措。它有望將人工智能的安全與保障問(wèn)題置于全球南方國(guó)家的創(chuàng)新需求語(yǔ)境下進(jìn)行重新解讀，從而打破當(dāng)前治理領(lǐng)域的僵局。

二、系統(tǒng)性風(fēng)險(xiǎn)：忽視安全的沉重代價(jià)與對(duì)可持續(xù)發(fā)展的威脅

若對(duì)人工智能安全與保障缺乏足夠重視，其后果可能遠(yuǎn)超技術(shù)本身。技術(shù)故障、網(wǎng)絡(luò)犯罪或?qū)β?lián)合國(guó)可持續(xù)發(fā)展目標(biāo)（SDGs）的侵蝕等經(jīng)濟(jì)后果，都可能因人工智能能力的增強(qiáng)和對(duì)其依賴(lài)的加深而被放大。因此，在人工智能安全問(wèn)題上的不作為所帶來(lái)的潛在成本，恰恰凸顯了將其視為構(gòu)建具有韌性和公平性的技術(shù)發(fā)展基石的必要性。

以網(wǎng)絡(luò)安全為例，一個(gè)國(guó)家若未能在人工智能模型安全方面進(jìn)行充分投入，未來(lái)其應(yīng)對(duì)網(wǎng)絡(luò)犯罪和數(shù)字事件的成本將急劇上升。例如，對(duì)國(guó)家關(guān)鍵基礎(chǔ)設(shè)施的攻擊所造成的經(jīng)濟(jì)損失將是巨大的。據(jù)估計(jì)，2021年，網(wǎng)絡(luò)犯罪給非洲國(guó)家造成的損失高達(dá)其國(guó)內(nèi)生產(chǎn)總值（GDP）的10%，約合41.2億美元；2022年，哥斯達(dá)黎加發(fā)生了一起臭名昭著的勒索軟件攻擊事件，該國(guó)20多個(gè)政府機(jī)構(gòu)成為目標(biāo)，并最終導(dǎo)致國(guó)家宣布進(jìn)入緊急狀態(tài)，此次攻擊給哥斯達(dá)黎加經(jīng)濟(jì)造成的損失約占其年度GDP的2.4%。如今，隨著前沿人工智能模型能力的不斷涌現(xiàn)，其輔助甚至主導(dǎo)網(wǎng)絡(luò)攻擊的能力也已得到驗(yàn)證，這可能導(dǎo)致未來(lái)網(wǎng)絡(luò)威脅的頻率和嚴(yán)重性都將大幅提升。

從更宏觀的視角看，如果系統(tǒng)性的人工智能風(fēng)險(xiǎn)得不到解決，可能會(huì)損害甚至逆轉(zhuǎn)在聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)（SDGs）上取得的全球進(jìn)展，從而對(duì)個(gè)人生活和國(guó)際秩序產(chǎn)生深遠(yuǎn)的負(fù)面影響。這些重大的破壞和高昂的社會(huì)成本將直接威脅到國(guó)家的能力和權(quán)威，迫切要求我們建立起能夠抵御不斷升級(jí)的人工智能相關(guān)威脅的社會(huì)韌性。

表：部分系統(tǒng)性人工智能風(fēng)險(xiǎn)如何威脅特定的可持續(xù)發(fā)展目標(biāo)

三、安全與保障的“發(fā)展紅利”

回顧技術(shù)創(chuàng)新和應(yīng)用案例，我們可以清晰地看到，對(duì)安全與保障的投資為全球南方國(guó)家?guī)?lái)了可觀的“發(fā)展紅利”。

（一）解決本土化風(fēng)險(xiǎn)，利用技術(shù)服務(wù)本土優(yōu)先事項(xiàng)

從發(fā)達(dá)經(jīng)濟(jì)體向新興經(jīng)濟(jì)體的技術(shù)和知識(shí)轉(zhuǎn)移，一直被視為實(shí)現(xiàn)可持續(xù)發(fā)展的有效工具。然而，要使這種轉(zhuǎn)移和部署真正有益，就必須充分關(guān)注并適應(yīng)當(dāng)?shù)丨h(huán)境。與本土情境相適應(yīng)的技術(shù)及其安全要求更可能行之有效，因?yàn)樗鼈兡艹浞謶?yīng)對(duì)當(dāng)?shù)鬲?dú)特且最普遍的威脅。

核能領(lǐng)域的發(fā)展提供了一個(gè)深刻的教訓(xùn)。忽視當(dāng)?shù)仫L(fēng)險(xiǎn)，如工程能力有限或環(huán)境脆弱性，可能導(dǎo)致巨大的失敗。例如，菲律賓的巴丹核電站項(xiàng)目，耗資超過(guò)20億美元，卻從未投入運(yùn)營(yíng)。與此相反，國(guó)際原子能機(jī)構(gòu)（IAEA）在核技術(shù)轉(zhuǎn)讓中，將安全與保障標(biāo)準(zhǔn)嵌入更廣泛的基礎(chǔ)設(shè)施和能力建設(shè)計(jì)劃，強(qiáng)調(diào)安全是一種發(fā)展資產(chǎn)，而非額外的管理成本。同樣，人工智能具有跨領(lǐng)域特性，通用的全球框架往往會(huì)忽略特定部署場(chǎng)景下的脆弱性和機(jī)遇，我們應(yīng)高度關(guān)注本地化的風(fēng)險(xiǎn)和優(yōu)先事項(xiàng)。因此，具有情境敏感性的人工智能安全與保障框架應(yīng)被視為有效、可持續(xù)技術(shù)部署的基石，它能在最大化人工智能潛力的同時(shí)，避免可預(yù)防的失敗。

（二）構(gòu)建信任與穩(wěn)定，為廣泛應(yīng)用和國(guó)際投資鋪路

信任是新技術(shù)普及應(yīng)用的關(guān)鍵。用戶(hù)之所以接納一項(xiàng)創(chuàng)新，不一定是因?yàn)樗麄兝斫馄涞讓蛹夹g(shù)機(jī)制，而是因?yàn)樗麄兿嘈旁撓到y(tǒng)能夠可靠地帶來(lái)益處而不會(huì)造成傷害。對(duì)于新興經(jīng)濟(jì)體而言，對(duì)于吸引國(guó)際投資，信任同樣至關(guān)重要。

安全與保障措施是建立這種信任的基礎(chǔ)。肯尼亞移動(dòng)支付服務(wù)M-PESA的成功便是一個(gè)明證。M-PESA以其強(qiáng)大的機(jī)構(gòu)支持和健全的安全措施贏得了用戶(hù)的信賴(lài)，從而得以廣泛普及，并最終改變了整個(gè)國(guó)家的經(jīng)濟(jì)面貌。M-PESA模式為人工智能的發(fā)展提供了寶貴經(jīng)驗(yàn)。目前，由于人工智能在發(fā)展領(lǐng)域展現(xiàn)出的切實(shí)效益，全球南方社區(qū)對(duì)其已抱有較高的公眾信任。通過(guò)加強(qiáng)人工智能安全與保障框架，可以進(jìn)一步加速其應(yīng)用，擴(kuò)大非正規(guī)就業(yè)人員的準(zhǔn)入，并釋放更大的經(jīng)濟(jì)潛力。在國(guó)際層面，清晰穩(wěn)定的監(jiān)管環(huán)境向投資者傳遞了可預(yù)測(cè)性和安全性的信號(hào)，這有助于鼓勵(lì)投資并支持國(guó)內(nèi)創(chuàng)新，這與聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)第九項(xiàng)（SDG 9）所強(qiáng)調(diào)的“建設(shè)有復(fù)原力的基礎(chǔ)設(shè)施、促進(jìn)包容和可持續(xù)的工業(yè)化、推動(dòng)創(chuàng)新”的目標(biāo)完全一致。

（三）維護(hù)全球南方利益，緩解全球權(quán)力失衡

積極參與國(guó)際人工智能治理，對(duì)于解決全球權(quán)力失衡、促進(jìn)全球南方國(guó)家的發(fā)展和主權(quán)至關(guān)重要，因?yàn)樵诂F(xiàn)有的多邊論壇中，這些國(guó)家的利益往往被邊緣化。

印度已成為這一努力中的關(guān)鍵行動(dòng)者。通過(guò)其在數(shù)字公共基礎(chǔ)設(shè)施（DPI）領(lǐng)域的領(lǐng)導(dǎo)地位，印度倡導(dǎo)建立專(zhuān)為資源受限環(huán)境設(shè)計(jì)的包容、安全且尊重權(quán)利的系統(tǒng)。通過(guò)“聯(lián)合國(guó)DPI保障機(jī)制”等倡議及其在2023年擔(dān)任G20輪值主席國(guó)期間的努力，印度成功地推廣了一種從設(shè)計(jì)之初就嵌入安全的模式。鑒于人工智能安全與保障框架存在被少數(shù)主導(dǎo)行為體在排他性論壇中塑造的風(fēng)險(xiǎn)，印度完全有能力將全球人工智能治理重新導(dǎo)向全球南方的發(fā)展優(yōu)先事項(xiàng)，特別是通過(guò)引導(dǎo)即將舉行的人工智能影響峰會(huì)，推動(dòng)包容性決策，并重新聚焦于先進(jìn)人工智能系統(tǒng)的風(fēng)險(xiǎn)。

四、結(jié)論

隨著人工智能治理框架的不斷形成，全球南方國(guó)家必須超越將安全與保障視為創(chuàng)新障礙的二元對(duì)立思維。建立國(guó)內(nèi)的人工智能安全與保障能力并參與多邊治理，并非次于創(chuàng)新的次要任務(wù)，而是其根基所在。通過(guò)降低系統(tǒng)性風(fēng)險(xiǎn)、建立信任以及為投資創(chuàng)造可預(yù)測(cè)的環(huán)境，安全與保障措施能夠?qū)崿F(xiàn)那種快速但脆弱的技術(shù)采納所無(wú)法帶來(lái)的長(zhǎng)期發(fā)展效益。2026年2月，即將于印度舉行的人工智能影響峰會(huì)提供了一個(gè)關(guān)鍵契機(jī)，它將有機(jī)會(huì)彌合當(dāng)前人工智能治理領(lǐng)域的不同敘事，并證明另一條道路是可能的。在這條道路上，對(duì)人工智能風(fēng)險(xiǎn)的嚴(yán)格關(guān)注將賦能而非限制技術(shù)潛力，從而更好地應(yīng)對(duì)人類(lèi)最緊迫的挑戰(zhàn)。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見(jiàn)。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見(jiàn)

研究所簡(jiǎn)介

國(guó)際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國(guó)務(wù)院發(fā)展研究中心的非營(yíng)利性研究機(jī)構(gòu)，主要職能是研究我國(guó)經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問(wèn)題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢(xún)服務(wù)。“全球技術(shù)地圖”為國(guó)際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見(jiàn)。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er