要點：2025年9月，國家互聯網信息辦公室發(fā)布《人工智能安全治理框架》2.0版，完善風險分類分級體系，構建“技術—應用—治理”三維防控矩陣，創(chuàng)新協同治理機制，配套工具包與評估體系，推動國際規(guī)則互認與協作，構建安全可信的AI發(fā)展生態(tài)，實現技術普惠共享。

——來源于國家互聯網信息辦公室

2025年9月15日，在國家網絡安全宣傳周主論壇上，國家互聯網信息辦公室正式發(fā)布《人工智能安全治理框架》2.0版（以下簡稱《框架》2.0版）。作為落實《全球人工智能治理倡議》的核心舉措，這一文件由國家互聯網應急中心牽頭，聯合人工智能專業(yè)機構、科研院所及行業(yè)企業(yè)共同制定，在2024年1.0版基礎上，結合技術發(fā)展與應用實踐，完善風險分類分級體系，動態(tài)調整治理措施，標志著我國人工智能安全治理從“原則倡導”向“實操落地”邁出關鍵一步?！犊蚣堋?.0版的發(fā)布不僅為國內AI產業(yè)發(fā)展劃定安全邊界，更通過跨國界、跨領域、跨行業(yè)的協同治理理念，為全球人工智能治理貢獻中國方案，推動技術紅利惠及全人類。

《框架》2.0版的出臺源于人工智能技術快速迭代帶來的治理新挑戰(zhàn)。過去一年，生成式AI、具身智能等技術突破催生了海量應用場景，但同時也引發(fā)算法歧視、數據濫用、深度偽造等風險。某互聯網企業(yè)AI安全負責人指出，1.0版框架側重宏觀原則，而2.0版針對“AI生成內容標識”“算法透明度”等具體問題提出可操作方案，例如要求聊天機器人需通過顯式標識（文字標注）和隱式標識（技術水?。╇p重方式提示用戶，這一規(guī)則已在國內主流AI產品中落地，用戶識別準確率提升至98%。國家互聯網應急中心數據顯示，2024年我國AI相關安全事件同比增長65%，其中深度偽造視頻詐騙案件占比達32%，《框架》2.0版通過“風險分級+動態(tài)防控”機制，將AI風險劃分為“核心風險、重要風險、一般風險”三級，對應不同治理強度，例如對涉及公共安全的核心風險，要求企業(yè)每季度提交安全評估報告，而一般風險可通過內部合規(guī)審查自主防控。

在風險分類體系上，《框架》2.0版構建了“技術層—應用層—治理層”三維風險矩陣。技術層重點防控算法偏見、數據污染、模型投毒等風險，要求訓練數據需通過合規(guī)審查，模型發(fā)布前完成安全測試；應用層聚焦自動駕駛、醫(yī)療診斷等高風險場景，明確企業(yè)需建立“人類監(jiān)督機制”，例如AI輔助診療系統的重大決策需經醫(yī)生復核；治理層則強化供應鏈安全，要求AI芯片、基礎軟件等關鍵環(huán)節(jié)供應商通過安全認證。某自動駕駛企業(yè)據此調整研發(fā)流程，在算法訓練階段引入第三方機構進行公平性測試，將性別、年齡等敏感特征導致的決策偏差降低至0.3%以下。值得注意的是，《框架》2.0版首次將“環(huán)境影響”納入治理范疇，要求AI企業(yè)定期披露算力中心能耗數據，鼓勵采用綠色算法優(yōu)化模型訓練效率，某頭部科技公司通過模型壓縮技術，將大模型訓練能耗降低40%，年減少碳排放1.2萬噸。

協同治理機制的創(chuàng)新是《框架》2.0版的鮮明特色。文件提出“政府引導—企業(yè)主責—社會監(jiān)督”的共治模式：政府層面建立“AI安全治理沙箱”，允許企業(yè)在可控環(huán)境中測試創(chuàng)新應用；企業(yè)層面需設立首席AI安全官，對高風險業(yè)務實施“雙人復核”；社會層面則鼓勵行業(yè)協會制定自律標準，目前已有120家企業(yè)簽署《AI安全自律公約》。在國際合作方面，《框架》2.0版與歐盟《人工智能法案》、聯合國《負責任的人工智能》原則實現部分規(guī)則互認，例如對“不可接受風險AI系統”的判定標準達成共識，某跨國AI企業(yè)據此調整全球產品策略，在中歐市場同步滿足“訓練數據本地化存儲”要求，合規(guī)成本降低30%。國家網信辦國際合作局負責人表示，《框架》2.0版將作為我國參與G20、APEC等多邊機制AI治理討論的基礎文件，推動建立跨國風險預警平臺，目前已與15個國家實現AI安全事件信息共享，響應效率提升50%。

為確保落地實效，《框架》2.0版配套推出“工具包+評估體系”實施支撐。工具包包含風險評估模板、安全測試用例、合規(guī)自查清單等12類實用工具，某銀行AI風控系統通過工具包完成算法透明度評估，將模型決策邏輯解釋準確率從65%提升至89%；評估體系則引入“成熟度模型”，將企業(yè)AI治理能力分為“初始級、管理級、優(yōu)化級”三級，優(yōu)化級企業(yè)可享受監(jiān)管沙箱優(yōu)先試點等政策紅利，目前已有8家企業(yè)通過優(yōu)化級認證，獲得自動駕駛、智能電網等創(chuàng)新業(yè)務試點資格。地方層面，北京、上海等地已將AI安全治理納入智慧城市建設考核，對達標企業(yè)給予稅收優(yōu)惠，某AI醫(yī)療企業(yè)因此節(jié)省研發(fā)投入2000萬元。

《框架》2.0版的發(fā)布正值全球人工智能治理體系加速構建的關鍵期。與1.0版相比，2.0版的突出變化在于從“被動應對”轉向“主動防控”，例如建立“AI安全漏洞獎勵計劃”，鼓勵白帽黑客發(fā)現AI系統漏洞，最高獎勵金額達500萬元；從“國內治理”轉向“全球協同”，通過“一帶一路”AI治理倡議，向發(fā)展中國家提供技術培訓和工具支持，目前已在東南亞、非洲等地區(qū)開展12期培訓班，培養(yǎng)本土治理人才300余人。正如國家互聯網信息辦公室負責人在發(fā)布會上強調的，《框架》2.0版的核心目標是“發(fā)展與安全并重”，既要為AI創(chuàng)新留足空間，又要通過制度設計防范風險外溢，最終實現“技術可控、倫理合規(guī)、治理有效”的發(fā)展愿景。

隨著《框架》2.0版的實施，我國人工智能產業(yè)正邁向“安全中發(fā)展”的新階段。企業(yè)層面，百度、華為等頭部企業(yè)已成立AI治理委員會，將安全要求嵌入產品全生命周期；行業(yè)層面，生成式AI服務備案制與《框架》2.0版形成聯動，未通過安全評估的產品不得上線；國際層面，我國與聯合國教科文組織聯合發(fā)起“AI倫理全球倡議”，推動《框架》2.0版核心規(guī)則納入國際標準。這場以治理促發(fā)展的實踐，不僅為我國AI產業(yè)高質量發(fā)展筑牢安全屏障，更通過開放包容的治理理念，推動全球人工智能技術普惠共享，讓AI真正成為造福人類的工具。

來源：國家互聯網信息辦公室官網

。。。