掃碼訂閱《中國信息安全》

郵發(fā)代號 2-786

征訂熱線：010-82341063

文 | 中國人民公安大學國家安全學院 苗爭鳴；清華大學自動化系 許展瑋；香港中文大學（深圳）人文社科學院 倪桂樺

生成式人工智能是基于算法、模型和規(guī)則，通過學習大規(guī)模數(shù)據(jù)集，能夠生成文本、圖片、聲音、視頻、代碼等的技術，其工作原理主要基于深度學習技術。當前，生成式人工智能技術被廣泛應用，直接關系國家安全。一方面，生成式人工智能技術提升國家安全情報數(shù)據(jù)的分析與收集能力，優(yōu)化國家安全事項決策部署，增強軍事領域武器系統(tǒng)的自主決策效能；另一方面，生成式人工智能技術的低門檻、平民化造成某些具有安全隱患的技術過度擴散；深度偽造技術生成的虛假信息塑造民眾認知，影響國家政治安全。此外，生成式人工智能因耗能過多可能存在引發(fā)能源匱乏等風險，導致國家或地區(qū)出現(xiàn)能源短缺的隱患。因此，需要從行為主體、技術本身、認知塑造和國際合作視角提出應對解決措施。

一、生成式人工智能大模型深度賦能國家安全

生成式人工智能技術正成為維護國家安全的重要工具。生成式人工智能技術能夠優(yōu)化國家安全決策過程，合理分配資源，也可提升國防領域武器系統(tǒng)智能化水平，提升攻防效能，還有助于構建國家安全預警防御體系，推進國家安全體系和能力現(xiàn)代化建設。

（一）優(yōu)化國家安全決策與資源配置機制

生成式人工智能技術在國家安全領域，能夠大幅提升情報搜集、分析與預警能力。生成式人工智能技術通過大數(shù)據(jù)挖掘和深度學習技術，可實時處理海量情報信息，迅速識別潛在威脅，并預測未來安全風險，特別是能夠提前預警危害國家安全的行動或異常行為，并提出多種應對決策選擇，為決策者提供支持。例如，美國國土安全部已宣布將強化利用人工智能應用程序，全面提高邊境安全、網(wǎng)絡安全和運輸安全等，并在具體執(zhí)法過程中借助生成式人工智能技術，提供文檔搜集與總結搜索結果的功能，通過整合數(shù)據(jù)、情報和文檔，促進執(zhí)法工作開展。

生成式人工智能技術可構建高精度虛擬環(huán)境，為國家安全領域提供模擬危機場景的平臺，實現(xiàn)模擬應急演練和預案制定，從而提升國家應對突發(fā)事件的能力。國家安全機構通過運用生成式人工智能技術，優(yōu)化資源配置，實現(xiàn)智能化管理和調(diào)度，整合國家安全各領域資源，確保資源有效管理和調(diào)配，進而提高維護國家安全的整體效能。例如，特朗普新政府將人工智能技術融入政策分析，并采用新的分析技術制定跨部門協(xié)作策略，打破聯(lián)邦機構的官僚壁壘，進而改革國家安全委員會的運作機制。美國政府還使用人工智能技術加強五角大樓與各相關部門的聯(lián)系，美國國防部利用人工智能大模型技術生成多種政策選擇，并通過深度學習技術提取國內(nèi)其他機構提供的數(shù)據(jù)信息，整合不同機構數(shù)據(jù)，創(chuàng)建美軍戰(zhàn)略層面作戰(zhàn)規(guī)劃，并提供基于數(shù)據(jù)驅動的政策建議。

（二）提升國防領域武器系統(tǒng)與攻擊防御效能

在軍事安全領域，人工智能驅動的無人機等自主武器系統(tǒng)早已出現(xiàn)。人工智能自主武器能夠在復雜戰(zhàn)場環(huán)境自主執(zhí)行任務，增強國家防務能力，維護國家領土安全。優(yōu)化生成式人工智能算法和模型，可進一步提升自主武器系統(tǒng)的智能化水平和作戰(zhàn)效能，在減少戰(zhàn)斗人員傷亡同時，實現(xiàn)精確打擊和高效防御。隨著美國等國軍隊采用生成式人工智能技術，軍事領域規(guī)?；渴饝萌斯ぶ悄芗夹g或將打破全球軍事平衡。

數(shù)字化時代，大國博弈主要競爭領域由傳統(tǒng)的物理空間轉向數(shù)字空間。生成式人工智能技術也能夠很好地構建數(shù)字空間安防體系，通過不斷自我學習進化，提升自身數(shù)字空間攻擊防御能力，賦能數(shù)字空間安全。生成式人工智能能夠識別惡意代碼與各類攻擊入侵等行為，并自動采取應對措施，形成無形的防護盾，并基于既有的安全攻擊數(shù)據(jù)，生成防御指南方法和預測未來攻擊態(tài)勢，提升安全攻防能力，確保國防信息系統(tǒng)及關鍵基礎設施的安全穩(wěn)定運行。2024年12月，美國國防部下屬機構首席數(shù)字和人工智能辦公室（CDAO）與國防創(chuàng)新部門（DIU）合作宣布成立新的人工智能快速能力小組（AI RCC），目的是加速國防部使用如生成式人工智能等技術，加快尖端人工智能工具的部署。在烏克蘭危機中，烏克蘭部署推進人工智能驅動的無人機系統(tǒng)參與軍事行動，減少直接作戰(zhàn)人員的參與，提高戰(zhàn)斗力，并依靠生成式人工智能系統(tǒng)優(yōu)化戰(zhàn)場決策。

（三）推動國家安全預警防御體系和能力現(xiàn)代化

隨著數(shù)字化和智能化技術在國家安全治理實踐中的戰(zhàn)略地位日益凸顯，生成式人工智能技術已成為國家安全體系和能力現(xiàn)代化建設的重要需求之一，成為提高國家安全態(tài)勢感知能力、健全國家安全風險研判與防范化解機制的基礎。政府借助生成式人工智能技術，可以更加精準地識別和評估國家安全風險，進而制定更加有效地應對安全威脅的策略，從而全面提升國家安全保障能力。生成式人工智能技術可以模擬國家安全威脅場景，輔助決策者預判風險并制定應急預案，構建國家安全防范機制。在公共安全領域，生成式人工智能技術能夠自動生成政策解讀文本、快速響應突發(fā)公共事件信息需求，提升政府治理精準度與公信力，優(yōu)化國家安全治理模式。生成式人工智能技術將成為維護政治安全、數(shù)據(jù)主權、網(wǎng)絡空間安全的重要工具，助力國家安全體系和能力現(xiàn)代化。綜上所述，生成式人工智能技術在國家安全領域，以其技術優(yōu)勢和廣泛應用前景，逐步成為賦能國家安全的重要力量。

二、生成式人工智能技術帶來的國家安全隱患

生成式人工智能技術在帶來巨大社會效能提升的同時，也給國家安全帶來隱患。例如，技術門檻的降低，導致技術外溢和擴散的不可控；深度偽造技術可以制造虛假新聞、假冒政府公告，操縱公眾認知；人工智能技術的迅猛發(fā)展導致對電力需求大增，引發(fā)國家能源安全風險。

（一）技術平民化帶來的國家安全風險

隨著生成式人工智能技術的普及、技術門檻的降低，技術擴散會帶來一系列風險隱患。例如，一些未經(jīng)規(guī)范的生成式人工智能大模型技術，能夠查詢制造高度致命和可傳播的病原體步驟，以及如何制造病毒軟件的技術，增加了人類面臨技術威脅風險的可能性。技術門檻的降低，使以假亂真的現(xiàn)象日益普遍，也使智能換臉和語音偽造的詐騙問題日益突出，為不法分子提供了新的技術手段，例如利用生成虛假信息實施網(wǎng)絡詐騙對社會秩序和公共安全構成威脅。

人工智能技術“虛構化”生成帶來信息過載的安全隱患，需要警惕。生成式人工智能大模型技術存在信息生成過載問題，太多無用信息和非真實信息可以導致互聯(lián)網(wǎng)回音壁效應。在這一過程中，技術平民化導致民眾無法識別大模型無中生有的信息。甚至，生成式人工智能模型可能成為“邪惡教程指南”，將涉及復雜的產(chǎn)品制造方法，提煉成普通民眾可理解和使用的說明，并幫助用戶規(guī)避開發(fā)相關安全產(chǎn)品的禁令。例如，對于普通大眾而言，由于生成式人工智能技術的出現(xiàn)，訪問、編輯和合成病毒基因組技術變得不再遙不可及。

（二）虛假信息誤導輿論威脅政治安全

生成式人工智能可能會用來通過偽造技術操縱公眾輿論，影響決策并威脅政治穩(wěn)定。一是生成式人工智能技術會生成虛假信息，引導網(wǎng)民輿論認知和意識形態(tài)。生成式人工智能具備快速生成大量仿真度高的文稿、圖片和音視頻的能力。不法分子可能利用這一技術進行詐騙，包括捏造事實、傳播網(wǎng)絡謠言和虛假有害信息等非法活動。這些虛假信息可能對公眾產(chǎn)生誤導，損害國家安全和形象。二是生成式人工智能技術能夠引導輿論認知，對政治產(chǎn)生影響。例如，美國眾議院議長南?！づ迓逦鞯囊欢我曨l被故意放慢語調(diào)，使其看起來像說話含糊不清，可作為政治對手攻擊她的證據(jù)。三是生成式人工智能能夠制作高度針對性的深度偽造視頻、進行虛假宣傳活動和大規(guī)模網(wǎng)絡攻擊，直接造成地緣政治風險，對國家安全和政府信任構成威脅。四是影響國家選舉和政治安全。不法分子可能會使用人工智能根據(jù)目標興趣量身定制發(fā)起復雜網(wǎng)絡釣魚攻擊，進入選舉系統(tǒng)，對國家選舉公正和政治穩(wěn)定造成影響。此外，過度使用生成式人工智能技術還會出現(xiàn)技術依賴風險。隨著生成式人工智能技術的發(fā)展，人類可能愈加依賴人工智能模型生成的內(nèi)容，還可能逐步喪失辨別生成內(nèi)容真?zhèn)蔚哪芰?，甚至最終削弱個人的認知與創(chuàng)造能力。隨著生成式人工智能控制越來越復雜和關鍵的系統(tǒng)，可能會出現(xiàn)以人類無法理解的方式優(yōu)化工作流程的現(xiàn)象。由于人類對人工智能技術愈加依賴，無法理解的生成內(nèi)容可能模糊人類和機器決策界限，破壞人類創(chuàng)造性與能動性。

（三）大模型技術規(guī)?；渴鹨l(fā)能源安全問題

人工智能技術發(fā)展將加速全球能源消耗，造成能源安全危機。生成式人工智能技術作為高耗能的技術模型，訓練模型可能需要數(shù)周或數(shù)月的時間，并在此期間耗費大量計算資源和電力資源。根據(jù)2025年3月《自然》雜志網(wǎng)站發(fā)表的題為《人工智能到底會消耗多少能源？好的、壞的和未知的》（How much energy will AI really consume? The good,the bad and the unknown）的文章，美國弗吉尼亞州已建有340個數(shù)據(jù)中心，相關數(shù)據(jù)中心耗電量占該州電力使用量的四分之一以上，同時，美國數(shù)據(jù)中心電力消耗超過10%的州至少有5個。2025年1月，波士頓咨詢公司發(fā)表題為《打破數(shù)據(jù)中心增長的障礙》（Confronting Challenges to Seize the Data Center Opportunity）的報告提出，到2030年，美國數(shù)據(jù)中心的用電量將是2022年的3倍。此外，自2012年以來，OpenAI訓練模型所需的算力每3.4個月翻一番。預計，到2040年，信息和通信技術行業(yè)的碳排放將占全球總量的14%，而其中主要來自數(shù)據(jù)中心和通信網(wǎng)絡。

生成式大型語言模型的廣泛部署，尤其是本地化部署策略的實施，將導致能源的過度消耗，并可能引發(fā)能源安全問題。大型語言模型的運行依賴龐大計算資源，特別是具備并行計算能力的GPU，耗電量巨大。在模型訓練過程中，模型規(guī)模提升和數(shù)量急劇增加會導致能耗顯著上升。此外，大型語言模型遵循規(guī)模效應原理，隨著模型參數(shù)和數(shù)據(jù)集規(guī)模的擴大，模型的智能性能將實現(xiàn)質的飛躍。在各大企業(yè)持續(xù)擴大模型規(guī)模的過程中，對電力資源的需求將產(chǎn)生巨大壓力，進而可能引發(fā)全球性的能源安全危機。

三、規(guī)制生成式人工智能技術賦能國家安全

生成式人工智能技術對維護國家安全至關重要。這些技術既可以用于增強安全防御，也可能成為信息戰(zhàn)和認知戰(zhàn)的攻擊工具。國家應從健全監(jiān)管與審查機制、建立人工智能安全防御體系、加強國際合作與規(guī)則體系建設等多方面入手，防范并遏制生成式人工智能犯罪，確保技術為國家安全服務，而不是成為潛在的安全風險。

（一）建立全流程多主體的監(jiān)督機制

在生成式人工智能的生命周期全流程構建人工智能監(jiān)督機制，同時各個行為主體都應參與生成式人工智能監(jiān)督，進而建立全流程、多主體參與的監(jiān)督機制。從時間上看，需要覆蓋生成式人工智能技術的研發(fā)、部署、應用和反饋全過程；從行為主體看，需要整合政府、企業(yè)、學術機構和社會公眾等多方主體，確保生成式人工智能技術的安全性。

一方面，針對生成式人工智能技術，各國都需構建多元主體的監(jiān)督體系。一是政府主導出臺關于生成式人工智能的法律法規(guī)。建立生成式人工智能技術的倫理與合規(guī)標準，如隱私保護、公平性、算法透明度要求。設立專門的安全問題監(jiān)管機構，如設立生成式人工智能安全審查委員會，負責監(jiān)管技術和系統(tǒng)的開發(fā)和使用，規(guī)避潛在安全風險。二是強化生成式人工智能技術企業(yè)安全監(jiān)督。技術企業(yè)在研發(fā)相關技術時應考慮將安全問題前置，也應在內(nèi)部建立人工智能安全和倫理審查小組，確保算法安全和可靠，并做好算法安全評估。同時，第三方獨立機構對生成式人工智能系統(tǒng)安全性與可解釋性進行審核。第三方機構可通過算法模型創(chuàng)新、多技術融合、標準體系建設等路徑，在保障技術合規(guī)、防范系統(tǒng)性風險方面發(fā)揮關鍵作用，有助于構筑預防生成式人工智能濫用的立體化防御網(wǎng)絡體系。三是強化學術機構與社會的安全預警監(jiān)督。要推動學術機構參與構建生成式人工智能技術評估和風險預警研究，提供專業(yè)學術咨詢建議，同時鼓勵媒體和公眾參與生成式人工智能的安全問題監(jiān)督，及時反饋生成式人工智能技術危害國家安全的行為。

另一方面，要構建生成式人工智能技術安全監(jiān)督機制，貫穿生成式人工智能技術的研發(fā)、部署、應用和反饋全過程。在生成式人工智能技術研發(fā)初期，應對技術路徑、算法模型安全進行嚴格審查，確保其符合倫理與安全標準。在部署階段，加強對技術系統(tǒng)的安全測試，防止?jié)撛诎踩┒春碗[患。在應用階段，持續(xù)監(jiān)控技術的運行狀況，及時發(fā)現(xiàn)并處理可能的安全風險點。在反饋階段，重視用戶反饋和投訴，及時改進生成式人工智能技術可能產(chǎn)生的安全問題。通過全流程監(jiān)督，確保生成式人工智能技術在各個環(huán)節(jié)的安全隱患都能得到有效管控。

（二）前置技術防范與認知安全理念

在現(xiàn)代網(wǎng)絡空間對抗過程中，單一技術手段已不足以應對復雜的安全威脅，必須前置技術防范措施，強化認知安全理念宣傳，形成全方位的安全防護體系。前置技術防范是一種主動防御策略，強調(diào)在威脅發(fā)生之前通過技術手段進行預警、預測和攔截。認知安全是一種更高層次的信息安全理念，涉及如何防止敵對勢力利用信息技術影響個體或群體的認知、心理和行為決策。

一方面，從技術維度出發(fā)，通過提升技術防范能力規(guī)避生成式人工智能技術影響國家安全。一是在技術的研發(fā)前期評估數(shù)據(jù)收集、訓練方法、潛在社會安全的影響，同時開展安全性測試，通過建立沙盒環(huán)境，測試人工智能模型的魯棒性、抗攻擊性等。二是設立算法備案與認證機制，識別如模型歧視、數(shù)據(jù)泄露等異常情況。三是通過人工智能內(nèi)部對抗的方法，提升技術的安全性。政府應主導研發(fā)人工智能驅動的反偽造算法，利用模式識別、語音指紋分析、元數(shù)據(jù)審查等方法檢測生成的虛假內(nèi)容，并在社交媒體和新聞平臺部署自動化內(nèi)容審查系統(tǒng)，實時監(jiān)測并標記生成的可疑信息。四是強化政府與軍方數(shù)據(jù)庫的人工智能防護機制，防止對手利用生成的誤導性數(shù)據(jù)干擾國家安全決策。

另一方面，從認知維度出發(fā)，在生成式人工智能技術應用中，構筑維護國家安全的觀念。一是要從認知維度樹立重要國家安全的思想。不使用非法生成式人工智能大模型，避免受錯誤信息誤導影響決策。二是提升全民人工智能安全認知水平。在當前教育課程體系加入生成式人工智能技術潛在安全危害等相關課程，培養(yǎng)公民對生成式人工智能技術偽造信息的識別能力，增強公眾對深度偽造、人工智能操控輿論的認知。三是強化國家在生成式人工智能安全認知引導的主體性作用。通過設立國家級信息認證平臺，集中發(fā)布權威信息，減少虛假信息對公眾的誤導，避免公眾陷入信息繭房，增強不同群體之間的信任，降低借助生成式人工智能操縱輿論的可能性。此外，針對人工智能消耗過多電力資源而影響能源安全的問題，也需要通過創(chuàng)新使用新能源技術、優(yōu)化數(shù)據(jù)中心布局等方式，未雨綢繆解決能源安全問題。

（三）構建國際合作技術規(guī)制共同體

當前，生成式人工智能技術潛在的安全隱患，已超過單一國家掌控范疇，亟須國際合作共同治理影響國家安全的生成式人工智能技術不當應用。一是構建生成式人工智能技術的國際治理機制。各國可通過聯(lián)合國等國際組織，共同制定治理框架，在倫理規(guī)范、算法透明度、數(shù)據(jù)安全等領域構建合作協(xié)議。二是推動全球生成式人工智能技術在軍事領域的審慎應用。各國可建立跨國生成式人工智能技術風險評估機制，特別是對生成式人工智能技術“致命性自主武器系統(tǒng)”應用的安全評估問題，防范技術濫用和安全隱患。三是強化共同防范跨國生成式人工智能安全威脅。各國通過聯(lián)合制定生成式人工智能倫理與安全規(guī)范，盡快達成全球性的關于生成內(nèi)容的標準，規(guī)制技術應用的合法性和安全邊界，防止跨國信息操控和認知戰(zhàn)。各國可共享生成式人工智能威脅全球安全的情報，聯(lián)手防范生成式人工智能生成的網(wǎng)絡攻擊、深度偽造欺詐等安全風險。各國通過合作構建生成式人工智能監(jiān)測系統(tǒng)，實時分析全球范圍的人工智能大模型可能存在的潛在安全威脅，如操縱輿論、數(shù)據(jù)泄露等問題，及時采取應對措施，平衡好數(shù)據(jù)安全與合作的關系。

四、結 語

生成式人工智能技術正深刻重塑地緣政治格局與國家安全體系，對全球安全格局和國家安全態(tài)勢產(chǎn)生重要影響。當前，世界處在一個可能引發(fā)顛覆性變革的十字路口，生成式人工智能技術的興起，不僅預示著一場技術革新，同時預示著全球地緣政治博弈的開始。技術工具演變?yōu)榈鼐墮嗔d體，引發(fā)的“數(shù)字權力”再分配可能重塑國際秩序。面對新興的非傳統(tǒng)安全問題的出現(xiàn)，各國需要重新審視國家安全治理框架，應認識到生成式人工智能技術在安全維度存在的雙重特性。聯(lián)合國應主導構建一個包含全流程和多方參與的監(jiān)督機制，預先采取技術防范措施及加強認知層面的重視。各國應在此機制中加強合作，共同審慎地利用生成式人工智能技術賦能國家安全?！颈疚南祰疑鐣茖W基金重點項目“以加快構建新安全格局保障新發(fā)展格局研究”（23AZD067）的階段性成果】

（本文刊登于《中國信息安全》雜志2025年第4期）

分享網(wǎng)絡安全知識 強化網(wǎng)絡安全意識

歡迎關注《中國信息安全》雜志官方抖音號

《中國信息安全》雜志傾力推薦

“企業(yè)成長計劃”

點擊下圖 了解詳情