2025年6月，美國大西洋理事會發(fā)布《人工智能監(jiān)管對國防的二階影響：國家安全領(lǐng)域為何必須參與》（Second-Order Impacrt Of Civil Artificial Intelligence Regulation On Defense: Why The National Security Community Must Engage）一文，介紹了主要國家及組織的人工智能監(jiān)管情況及其對國防與國家安全領(lǐng)域的影響，并指出國防與國家安全領(lǐng)域需采取舉措以應(yīng)對潛在影響。

全球人工智能監(jiān)管格局復雜且瞬息萬變，即便立場相近的國家，其監(jiān)管方式也存在顯著差異。然而，一個普遍的共同點是，這些監(jiān)管大多將國防與國家安全領(lǐng)域排除在外。這種監(jiān)管豁免或特殊考量，使得該領(lǐng)域可以專注于其內(nèi)部標準與流程，從而與民用人工智能的監(jiān)管體系分離開來。但人工智能技術(shù)本質(zhì)上具有雙重用途，這沒有考慮到民用人工智能監(jiān)管對國防與國家安全領(lǐng)域的影響。

一、主要國家和組織的監(jiān)管舉措

（一）美國

美國采取“技術(shù)中立”的監(jiān)管態(tài)度，鼓勵企業(yè)創(chuàng)新，并平衡公共安全與公民權(quán)利。各方認同政府應(yīng)發(fā)揮監(jiān)管作用，但對如何監(jiān)管未達成共識。美國人工智能監(jiān)管方式是重點關(guān)注人工智能的應(yīng)用，特別是與自由、數(shù)據(jù)隱私和消費者保護相關(guān)的內(nèi)容。部分轄區(qū)會就特定風險模型補充監(jiān)管。監(jiān)管范圍重點為人工智能系統(tǒng)產(chǎn)生的結(jié)果，對單個模型或算法的考慮有限。監(jiān)管類型為聯(lián)邦與行業(yè)達成自愿性協(xié)議，并將人工智能納入硬法。部分州已制定硬性法規(guī)，總體上側(cè)重于保護現(xiàn)有消費者權(quán)益及公民權(quán)利。關(guān)于監(jiān)管對象，在美國聯(lián)邦層面，自愿性協(xié)議針對的是開發(fā)者和部署者，服務(wù)提供商不在此列。州層面監(jiān)管參差不齊，部分州已對開發(fā)者和部署者提出更具體的要求。關(guān)于國防與國家安全，美國聯(lián)邦層面由單獨法規(guī)管轄，針對不同組成部分設(shè)置專門框架。目前尚無州級法規(guī)。美國國內(nèi)治安、反恐等可能會被納入監(jiān)管。

人工智能是近年來兩黨之間難得達成相對一致的領(lǐng)域。特朗普1.0時期的理念在拜登時期得到了一定程度的延續(xù)，盡管拜登的多項行政命令被特朗普2.0推翻，但其政策中技術(shù)官僚色彩較濃的部分得以保留。參議院多數(shù)黨領(lǐng)袖促成了兩黨參議院人工智能工作組的政策路線，該路線更關(guān)注美國的國際競爭優(yōu)勢而非國內(nèi)監(jiān)管，短期內(nèi)難有重大立法。2024年，美國《國防授權(quán)法案》要求評估人工智能的倫理使用并研究軍事應(yīng)用漏洞。

2024年，美國45個州提出人工智能法案，31個州通過決議或立法，多數(shù)聚焦消費者權(quán)利與數(shù)據(jù)隱私。加州議會曾通過嚴格的人工智能法案；猶他州聚焦生成式人工智能的透明度與消費者保護；科羅拉多州針對高風險人工智能系統(tǒng)建立反歧視框架。

（二）歐盟

歐盟是全球第一個圍繞人工智能的開發(fā)、部署和使用發(fā)布具有法律約束力規(guī)則的組織。原計劃作為消費者保護法，因ChatGPT的出現(xiàn)，規(guī)制范圍擴展至此類模型。

監(jiān)管方式為橫向監(jiān)管，也有針對通用人工智能系統(tǒng)的縱向監(jiān)管，基于風險評估方式確定特定用途的監(jiān)管等級。監(jiān)管范圍主要為高風險和通用人工智能系統(tǒng)，涵蓋數(shù)據(jù)、算法、應(yīng)用等，但不涵蓋硬件。監(jiān)管類型為硬性監(jiān)管，對違規(guī)行為處高額罰款。監(jiān)管對象主要為人工智能開發(fā)者，極少有部署者責任。因權(quán)限問題排除國防與國家安全適用，但涵蓋國內(nèi)警務(wù)。

歐盟《人工智能法案》在所有成員國直接生效，采用風險分級（不可接受、高、有限、最低/無風險）進行監(jiān)管。被列為“不可接受風險”的系統(tǒng)（如工作場所監(jiān)控等）將被完全禁止；屬高風險的系統(tǒng)（如生物識別等）受最嚴格監(jiān)管，對于構(gòu)成“系統(tǒng)性風險”的通用人工智能需遵守類高風險系統(tǒng)的義務(wù)。即使允許開發(fā)者自定風險類別，高額罰款仍會對違規(guī)者形成威懾。另外，盡管排除了軍事用途，但對執(zhí)法豁免條款（如警務(wù)人工智能犯罪畫像）爭議較大，且因軍事與警務(wù)技術(shù)重疊（如反恐），可能對國防產(chǎn)生連帶影響?！度斯ぶ悄芊ò浮分荚诮y(tǒng)一成員國標準以保障單一市場運作，但其帶來的影響可能不局限于歐盟——如《通用數(shù)據(jù)保護條例》帶來的高合規(guī)成本影響了全球企業(yè)。

（三）英國

英國政府采用創(chuàng)新友好與靈活的監(jiān)管政策，旨在平衡經(jīng)濟增長與公眾安全及基本價值觀之間的矛盾。

監(jiān)管方式為橫向的、行業(yè)性的，未來可能對通用人工智能采取縱向監(jiān)管。監(jiān)管范圍不夠明確，主要針對人工智能系統(tǒng)，但也會根據(jù)行業(yè)考慮供應(yīng)鏈不同部分。監(jiān)管類型為通過行業(yè)監(jiān)管機構(gòu)實施硬性監(jiān)管。監(jiān)管對象因行業(yè)而異，一般側(cè)重于開發(fā)者和部署者。針對國防與國家安全領(lǐng)域，有專門的軍事與國家安全框架與更廣泛的政府監(jiān)管框架并行。

2022年6月，英國首次制定人工智能監(jiān)管方針，同年12月發(fā)布《國家人工智能戰(zhàn)略》，次年8月發(fā)布細化監(jiān)管方針的文件。在2024年大選后，新上臺的工黨政府對監(jiān)管的態(tài)度從強硬轉(zhuǎn)向緩和，計劃年底出臺的人工智能立法并未實現(xiàn)。

除特定情形外，現(xiàn)有行業(yè)監(jiān)管機構(gòu)最了解本行業(yè)需求。部分機構(gòu)已將人工智能納入監(jiān)管，如金融行為監(jiān)管局的“沙盒監(jiān)管”。盡管整體監(jiān)管分行業(yè)進行，但仍存在中央統(tǒng)籌機制，如英國人工智能安全研究所與企業(yè)簽署自愿測試模型協(xié)議。競爭與市場管理局提議依據(jù)《數(shù)字市場、競爭與消費者法案》優(yōu)先監(jiān)管通用人工智能，并賦予其高額罰款權(quán)。

隨著民用人工智能監(jiān)管的發(fā)展，英國需通過道德原則進行風險評估，驗證國家安全框架能否應(yīng)對人工智能風險。此外，英國積極參與國際組織多邊討論，2023年底舉辦首屆全球人工智能安全峰會，有28國簽署《布萊切利宣言》，承諾合作確保人工智能安全、共同應(yīng)對風險，但因只關(guān)注通用人工智能的生存風險而非安全問題遭到批評，且缺乏具體規(guī)則。

（四）新加坡

新加坡?lián)碛袕姶蟮臄?shù)字經(jīng)濟，以親商、創(chuàng)新聞名，監(jiān)管路徑與英國相似，平衡經(jīng)濟增長與風險防范。

監(jiān)管方式為橫向的、行業(yè)性的，未來可能對通用人工智能采取縱向監(jiān)管。監(jiān)管范圍擬包括數(shù)據(jù)、算法、應(yīng)用等內(nèi)容，實踐中因行業(yè)而異。關(guān)于監(jiān)管類型，通過現(xiàn)有行業(yè)監(jiān)管機構(gòu)進行硬性監(jiān)管。監(jiān)管對象包括開發(fā)者、部署者和服務(wù)提供商/托管平臺，責任按控制程度及開發(fā)部署階段劃分。無國防與國家安全的公開監(jiān)管框架。

新加坡政府采用基于現(xiàn)有框架的行業(yè)性、靈活性監(jiān)管來規(guī)制安全問題，但較少關(guān)注國家安全。政府與科技行業(yè)合作開發(fā)監(jiān)管工具——自愿治理測試框架“AI Verify”，幫助企業(yè)測試系統(tǒng)是否符合全球人工智能治理框架。

盡管政策文件對國家安全著墨不多，但新加坡是首個設(shè)立獨立軍事部門以應(yīng)對數(shù)字領(lǐng)域威脅的國家——數(shù)字與情報局整合指揮、控制、通信、云計算和人工智能等領(lǐng)域。新加坡國防科學技術(shù)局（DSTA）也擬將人工智能融入作戰(zhàn)平臺、武器等領(lǐng)域。但新加坡武裝部隊未公布使用軍事人工智能的官方立場。新加坡支持創(chuàng)新的戰(zhàn)略可能持續(xù)影響該區(qū)域。作為2024年東盟數(shù)字部長會議的主席國，推動制定《東盟人工智能治理與倫理指南》，因東盟政治、技術(shù)差異大未推行共同監(jiān)管。該指南與美歐英政策在基于風險的治理方法上相似，但卻更兼顧各國文化。

（五）國際監(jiān)管舉措

1.經(jīng)合組織

經(jīng)合組織于2019年發(fā)布了《人工智能原則》，同時為全球人工智能伙伴關(guān)系提供秘書處服務(wù)。雖然未明確提及國防與國家安全，但會影響對該領(lǐng)域的討論。例如，數(shù)據(jù)治理工作組的指南會對合法使用數(shù)據(jù)訓練算法產(chǎn)生影響。經(jīng)合組織還曾協(xié)助七國峰會制定國際人工智能指導原則與自愿行為準則。經(jīng)合組織監(jiān)管方式為橫向的、風險導向的。監(jiān)管范圍為人工智能系統(tǒng)和相關(guān)知識，對算法和數(shù)據(jù)有具體措施。監(jiān)管類型為無合規(guī)或執(zhí)行機制的軟性監(jiān)管。監(jiān)管對象包括參與人工智能系統(tǒng)生命周期中的任何人或任何組織。不涉及國防與國家安全。

2.七國集團

七國集團于2023年建立了廣島人工智能進程，在全球為通用人工智能系統(tǒng)建立護欄。同年，包括國際指導原則和開發(fā)者自愿行為守則在內(nèi)的綜合政策框架出臺，通過提供可信的人工智能工具，成為各國監(jiān)管框架的基準。這需要包括國防與國家安全人工智能供應(yīng)商在內(nèi)的科技行業(yè)的參與。

七國集團還在技術(shù)標準與國際數(shù)據(jù)流動等領(lǐng)域發(fā)揮作用，但內(nèi)部分歧可能阻礙這一進程。國際數(shù)據(jù)流動領(lǐng)域的情況稍顯樂觀，如歐美數(shù)據(jù)隱私框架通過“數(shù)據(jù)橋”減少跨境數(shù)據(jù)流動合規(guī)負擔，盡管仍面臨被歐盟法院否決風險。

七國集團監(jiān)管方式為僅適用于通用人工智能的縱向監(jiān)管，監(jiān)管范圍聚焦通用人工智能系統(tǒng)的數(shù)據(jù)共享與跨境傳輸，監(jiān)管類型為無合規(guī)與執(zhí)行機制的軟性監(jiān)管，監(jiān)管對象僅適用于通用人工智能開發(fā)者，不涉及國防與國家安全領(lǐng)域。

3.聯(lián)合國

2021年，教科文組織發(fā)布全球人工智能倫理標準，建立人工智能倫理與治理實驗室?guī)椭u估倫理準備程度。ChatGPT發(fā)布后，聯(lián)合國成立人工智能咨詢機構(gòu)，發(fā)布報告并建議內(nèi)部定期開展政策對話，由國際人工智能專家科學小組提供支持。同時計劃在秘書處設(shè)立小型人工智能辦公室。

2023年7月，聯(lián)合國安理會秘書長指出人工智能的軍民應(yīng)用均影響全球安全，提議建立聯(lián)合國人工智能治理機構(gòu)。聯(lián)合國監(jiān)管方式是橫向的、聚焦可持續(xù)發(fā)展的，監(jiān)管范圍為廣義的人工智能系統(tǒng)，側(cè)重數(shù)據(jù)治理與避免數(shù)據(jù)偏見。監(jiān)管類型為無合規(guī)與執(zhí)行機制的軟性監(jiān)管。監(jiān)管對象涉及人工智能系統(tǒng)的設(shè)計、開發(fā)、部署與使用。關(guān)于國防與國家安全，決議排除了軍事用途，但安理會有相關(guān)討論。

4.北約

北約不參與民用監(jiān)管，但在軍事標準領(lǐng)域發(fā)揮重要作用。2021年，北約正式發(fā)布首份《人工智能戰(zhàn)略》。北約內(nèi)部設(shè)數(shù)據(jù)與人工智能審查委員會（DARB），制定認證標準，確保新的人工智能項目符合上述戰(zhàn)略中的負責任原則。北約無強制執(zhí)行權(quán)，且成員國達成共識做出決定不易，技術(shù)標準比規(guī)范性問題更易達成一致。北約標準化辦公室有能力確定適用于國防與國家安全的民用人工智能標準，并確定哪些領(lǐng)域需定制特殊標準。

北約監(jiān)管方式為橫向的，人工智能原則適用于所有人工智能類型。其監(jiān)管范圍包含廣義的人工智能系統(tǒng)，監(jiān)管類型為無執(zhí)行機制的軟性監(jiān)管。監(jiān)管對象為在軍隊中開發(fā)和部署人工智能的成員國，相關(guān)規(guī)定僅涉及國防與國家安全。

二、人工智能監(jiān)管分析

（一）監(jiān)管共性

監(jiān)管方式傾向于行業(yè)或用途導向，這是平衡創(chuàng)新與用戶保護的務(wù)實之舉，但對通用人工智能，越來越多觀點認為需采用縱向的、技術(shù)導向的監(jiān)管。關(guān)于監(jiān)管范圍，對人工智能需監(jiān)管的元素缺乏共識，在框架僅提及人工智能系統(tǒng)時，可通過相關(guān)文件推斷范圍（算法、數(shù)據(jù)等），這與現(xiàn)有行業(yè)監(jiān)管的策略一致——根據(jù)行業(yè)不同重點關(guān)注對象也不同。關(guān)于監(jiān)管類型，當前歐盟制定了專門人工智能硬性法規(guī)，但多數(shù)還是依賴行業(yè)監(jiān)管、自愿性指南等，目前立法趨勢加強。關(guān)于監(jiān)管對象，基本都將部分責任歸于開發(fā)者，很少包括部署者和服務(wù)提供商在內(nèi)。有觀點認為責任分配應(yīng)隨人工智能生命周期變化，但實踐較少且需長期探索。

（二）對國防與國家安全的影響

一是監(jiān)管塑造市場影響工具可得性。直接干預如修改反壟斷法迫使供應(yīng)商拆分等，或間接干預如影響市場可用工具種類等，可能影響國防領(lǐng)域獲取人工智能工具。二是對民用法規(guī)的司法解讀影響行動許可。可能直接限制特定用途如反恐的人工智能使用，或通過對法律責任的擔憂來間接影響。三是增加開發(fā)和部署的成本與風險。復雜合規(guī)制度、碎片化技術(shù)標準可能增加成本；軍民雙重用途模型的許可或報告可能會帶來相關(guān)的安全風險。

通過評估民用監(jiān)管框架，可以總結(jié)出國防與國家安全的具體領(lǐng)域需關(guān)注的舉措，大體上可以分為三類：一是短期內(nèi)應(yīng)支持的領(lǐng)域或措施；二是中期內(nèi)應(yīng)支持的領(lǐng)域，處于走向成熟階段需要更多投入的領(lǐng)域，中期內(nèi)可能會對社會產(chǎn)生重大影響；三是未來應(yīng)警惕的舉措，仍處于走向成熟階段但未來的影響不確定，可能需要社會意見。

三、結(jié)論

盡管多數(shù)民用人工智能監(jiān)管排除國防與國家安全領(lǐng)域的應(yīng)用，但人工智能系統(tǒng)固有的雙重用途性質(zhì)意味著國防與國家安全領(lǐng)域不能置身事外。國防與國家安全中的人工智能監(jiān)管問題必須納入到更具有普遍性的方案中來。負責國家安全人工智能事務(wù)的政府部門及人員、擁有軍民兩用人工智能產(chǎn)品的行業(yè)組織及私營企業(yè)，都應(yīng)充分理解民用人工智能監(jiān)管對自身利益的影響，并參與相關(guān)討論。

免責聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達不同觀點，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡介

國際技術(shù)經(jīng)濟研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機構(gòu)，主要職能是研究我國經(jīng)濟、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)?！叭蚣夹g(shù)地圖”為國際技術(shù)經(jīng)濟研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er