2026年2月，由圖靈獎得主約書亞·本吉奧（Yoshua Bengio）教授領(lǐng)銜、來自30多個國家和國際組織（包括歐盟、OECD、聯(lián)合國）的100余位專家共同編撰的《2026年國際AI安全報告》（International AI Safety Report 2026）正式發(fā)布 。這是繼2025年首份報告后的又一總結(jié)性質(zhì)的著作。在AI技術(shù)發(fā)展日新月異的今天，這份報告為我們揭示了哪些硬核趨勢？相比去年，我們的處境是更安全了，還是面臨著更復雜的變局？

01

跨越一年：2026與2025版的深度“復盤”與對比

在深入解讀核心觀點前，我們先來看看2026年版報告在視角和內(nèi)容上發(fā)生了哪些關(guān)鍵演變。

范圍收窄：聚焦“新興風險”

相比2025年報告涵蓋偏見、環(huán)境影響、隱私和版權(quán)等廣泛議題，2026年版顯著收窄了研究范圍，將核心聚焦于“新興風險”（Emerging Risks）。這意味著全球?qū)＜医M認為，目前最迫切的威脅來自于通用AI能力“前沿”的濫用和網(wǎng)絡安全風險。

預測升級：引入OECD的情境化建模

第一版報告更多是對現(xiàn)狀的總結(jié)，而今年，報告與OECD及預測研究機構(gòu)合作，首次呈現(xiàn)了更加具體的情境預測和路徑分析。通過對計算能力（compute）、算法效率（algorithmic efficiency）和數(shù)據(jù)規(guī)模三大驅(qū)動因素建模，報告為政策制定者提供了直至2030年AI能力發(fā)展的四種可能走向。

他們分別是：

（1）進展停滯：受算力、數(shù)據(jù)或投資瓶頸限制，AI能力基本保持不變。

（2）進展放緩：邊際收益遞減，僅在受控環(huán)境下（如工廠、實驗室）有較慢進展。

（3）持續(xù)進展：保持當前快速發(fā)展速度，AI成為“專家級協(xié)作者”。

（4）加速發(fā)展：AI開始參與AI本身的研發(fā)，形成正反饋閉環(huán)，達到或超過人類認知水平。

風險實證：強調(diào)“現(xiàn)實證據(jù)”

如果說2025年我們還在討論AI可能帶來的網(wǎng)絡威脅，那么2026年的報告則指出：證據(jù)已經(jīng)確鑿 。過去一年中，AI在發(fā)現(xiàn)軟件漏洞和編寫攻擊代碼方面的能力大幅提升，國家級攻擊組織利用AI進行網(wǎng)絡行動的案例已被頻繁記錄。

02

2026報告核心觀點解讀：AI正變得“聰明且危險”

在這份長達百頁的報告中，我們提煉出以下幾個維度的核心洞察：

能力“參差不齊地”進化 (Jagged Capabilities)

目前的AI呈現(xiàn)出一種“不穩(wěn)定的智能性”：它能解決奧數(shù)金牌難度的數(shù)學題，卻可能在數(shù)圖片里有幾個蘋果這種簡單任務上翻車。報告指出，領(lǐng)先系統(tǒng)在化學、法律等本科考試中得分超過90%，在奧數(shù)競賽中達到金牌水平。但是其空間推理能力極差，且容易受到“幻覺”困擾，無法在沒有人類干預的情況下獨立執(zhí)行多進程項目，這種"強復雜任務、弱簡單任務"的能力分布，反映了當前AI系統(tǒng)的基本局限。

“推理系統(tǒng)”（Reasoning Systems）與“推理成本”的崛起

報告強調(diào)，性能提升不再僅依賴于模型規(guī)模的增加，更多來自于“后訓練技術(shù)”和“推理時擴展”（Inference-time Scaling）?！巴评硐到y(tǒng)”能夠在最終答案前生產(chǎn)中間推理步驟，即“思維鏈”（Chain of thought）。2025年，Google的Gemini Deep Think和OpenAI的實驗模型在結(jié)構(gòu)化測試環(huán)境下解決了奧數(shù)金牌難度的問題。這種"推理時擴展"技術(shù)意味著：模型性能不僅取決于訓練時的投入，還可在部署后通過分配更多計算資源來提升。當然，這種“深思熟慮”也會消耗更多算力，顯著提高“推理成本”。

AI智能體（AI Agent）的崛起

AI智能體（AI Agent）被定義為能夠在較少人工監(jiān)督的情況下能夠自主追求目標并執(zhí)行任務的AI系統(tǒng)。其發(fā)展十分迅速，目前已經(jīng)可以完成人類程序員約30分鐘任務的軟件工程任務（成功率80%），而且能處理的任務復雜度每7個月翻一番，已經(jīng)被廣泛應用于軟件工程、研究、機器人控制、客戶服務等領(lǐng)域。但也正因其有高度自主性，進一步帶來了額外的風險，使得人類更難在故障造成傷害前提前進行干預，對于相關(guān)風險管控能力的要求進一步提升。

AI新型風險涌現(xiàn)

報告將通用AI新型風險劃分為三類：惡意使用風險、故障風險和系統(tǒng)性風險。

其中“惡意”使用的三個重災區(qū)是網(wǎng)絡攻擊、生物與化學風險和對人類信念的影響與操縱。網(wǎng)絡攻擊方面，AI代理在網(wǎng)絡安全競賽中已能自主識別77%的軟件漏洞，進入前5%的水平。由AI所發(fā)起的網(wǎng)絡攻擊成了目前網(wǎng)絡安全方面需要重點關(guān)注的對象。

生物與化學方面， 通用AI系統(tǒng)可提供關(guān)于生物和化學武器開發(fā)的信息，頂尖模型在指導病毒實驗規(guī)程方面的表現(xiàn)已超過94%的領(lǐng)域?qū)＜?，多家公司已因無法排除其協(xié)助開發(fā)生物武器的可能性而對2025年后的新模型實施了嚴格管控，或是選擇發(fā)布帶有額外安全措施的新模型。

對人類信念的影響與操縱方面，目前報告指出，AI生成的說服性內(nèi)容在改變?nèi)祟愋拍罘矫嬉巡粊営谏踔羶?yōu)于普通人類專家。實驗表明，在5分鐘對話后，參與者將GPT-4o生成的文本誤認為人類編寫的比例達77%；聽眾在80%的情況下將AI語音克隆誤認為真實說話者。

除了惡意風險和固有的故障風險（幻覺、失控等）之外，AI也面臨著系統(tǒng)性風險的影響。一是勞動力市場中，AI可能自動化廣泛的認知任務，尤其是可能替代部分早期知識性工作（如寫作），但目前對總體就業(yè)的影響尚不確定；二是對人類自主性的分層，如AI伴侶應用可能會造成人類的心理依賴，導致相信自動化偏見或是批判性思維削弱等問題。

03

深度解讀：我們該如何自救？

風險管理的核心矛盾在于：技術(shù)不可控與制度跟不上。AI的新能力往往突然涌現(xiàn)，模型內(nèi)部機制卻仍是黑箱，部署前的測試結(jié)果也難以預測實際風險。更棘手的是，開發(fā)商有動力隱瞞關(guān)鍵信息，開發(fā)速度又倒逼團隊犧牲安全換取進度。

政策制定者往往面臨“證據(jù)困境”（evidence dilemma）：過早采取行動可能導致無效甚至有害的干預措施，但是收集和評估其對社會的影響所需的證據(jù)需要時間，又可能使社會面臨潛在風險影響。面對這種不確定性，報告提出了“深度防御”（Defence-in-depth）策略。報告強調(diào)，沒有任何單一的防火墻是完美的，必須在多個層面共同筑起防線，例如事前靠威脅建模和能力評估設定危險閾值；事中用分類器、護欄、RLHF等技術(shù)手段攔截風險；事后通過事件報告和行業(yè)共享彌補漏洞。但這些措施都有明顯短板——復雜攻擊能繞過防護，開源模型的保障措施更易被拆除，一旦發(fā)布便無法召回。

沒有萬全之策，但可以通過建設社會韌性——在技術(shù)快速演進中構(gòu)建適應性治理框架，并通過基礎設施強化、公眾教育及國際合作建設社會韌性，以應對不可避免的沖擊。

04

結(jié)語

通用AI不僅是生產(chǎn)力工具，更是重塑社會契約的深層力量。正如Bengio教授在序言中所說，我們正在經(jīng)歷這一時代最重大的技術(shù)轉(zhuǎn)型。理解風險，是為了更安全地擁抱繁榮。

數(shù)據(jù)來源：International AI Safety Report 2026，International AI Safety Report 2025

來源｜全球人工智能創(chuàng)新治理中心

作者 | 劉前昊、袁露銘

排版 | 蒲云濤