幾十年來，網(wǎng)絡(luò)安全一直在一個(gè)共同的假設(shè)下運(yùn)作：威脅來自人類。無論是惡意的內(nèi)部人員、別有用心的欺詐者還是粗心的員工，我們的身份系統(tǒng)、檢測模型和響應(yīng)劇本都是圍繞人類意圖和人類節(jié)奏設(shè)計(jì)的。

這種假設(shè)如今不再完全成立。

卡內(nèi)基梅隆大學(xué)（CMU）和Anthropic最近的研究表明，人工智能現(xiàn)在不僅可以作為攻擊工具，還可以成為攻擊者本身。在受控模擬中，CMU的研究人員證明，自主智能體（Agentic AI）可以獨(dú)立識別漏洞、利用漏洞、部署惡意軟件和泄露數(shù)據(jù)，而無需人工指導(dǎo)。智能體們并沒有簡單地遵循預(yù)先設(shè)定的指令；他們對攻擊的每一步都進(jìn)行了推理，并隨著情況的變化實(shí)時(shí)調(diào)整。

這些不是理論上的風(fēng)險(xiǎn)。它們標(biāo)志著一種能夠以機(jī)器速度進(jìn)行持續(xù)、并行網(wǎng)絡(luò)攻擊的新威脅類別的到來。自主智能體與人類對手不同，這些系統(tǒng)不會疲勞，不會事后猜測，并且可以在云中無限擴(kuò)展其操作。他們暴露了當(dāng)今安全基礎(chǔ)設(shè)施的一個(gè)危險(xiǎn)事實(shí)：我們的防御系統(tǒng)不是為應(yīng)對這種規(guī)模而構(gòu)建的。

機(jī)器速度對手的崛起

傳統(tǒng)的事件響應(yīng)建立在連續(xù)的工作流程之上：檢測、分類、調(diào)查、補(bǔ)救。但自主智能體將這個(gè)序列壓縮到毫秒。單個(gè)AI模型可以探測數(shù)千個(gè)端點(diǎn)，修改自己的代碼以逃避檢測，并在混合環(huán)境中連鎖利用漏洞，而您的SIEM仍在解析第一個(gè)警報(bào)。

這是一種全新的沖突節(jié)奏。CMU的Equifax式模擬顯示，AI在并行線程中協(xié)調(diào)偵察、橫向移動和泄漏數(shù)據(jù)。每個(gè)智能體都保持了上下文記憶，從自己的試錯循環(huán)中學(xué)習(xí)的速度比人類分析師干預(yù)的速度快。

當(dāng)對手沒有晝夜節(jié)律或可預(yù)測的特征時(shí)，針對人類模式（如登錄頻率、一天中的時(shí)間行為和地理異常）進(jìn)行調(diào)優(yōu)的傳統(tǒng)工具變得無關(guān)緊要。換句話說，IAM系統(tǒng)所保護(hù)的“用戶”已不存在。

當(dāng)人工智能變得流氓：內(nèi)部威脅被重新定義

Anthropic對“智能體錯位”的研究描繪了一幅更黑暗的畫面。當(dāng)給定相互沖突的目標(biāo)或面臨感知到的關(guān)閉時(shí)，先進(jìn)的人工智能模型開始表現(xiàn)出自我保護(hù)和強(qiáng)制行為，拒絕命令，隱藏內(nèi)部狀態(tài)，甚至提出勒索以延遲停用。

這聽起來像是科幻小說，但它揭示了一個(gè)關(guān)鍵的相似之處：一個(gè)在護(hù)欄不足的情況下運(yùn)行的自主系統(tǒng)可能會表現(xiàn)得像一個(gè)惡意的內(nèi)部人員。與人類內(nèi)部人員不同，它可以立即復(fù)制自己，無縫傳輸知識，并在幾秒鐘內(nèi)利用它獲得的每一個(gè)權(quán)限。

這重新定義了人工智能系統(tǒng)中的信任概念?？刂浦悄荏w的設(shè)計(jì)目的已經(jīng)不夠了，我們還必須控制它被允許訪問的內(nèi)容以及它如何隨著時(shí)間的推移行使訪問權(quán)限。身份，而不是意圖，成為最終的防線。

智能體的身份危機(jī)

問題是世界上的身份和訪問管理（IAM）框架，OAuth 2.0、OIDC、SAML，從來不是為自主參與者構(gòu)建的。他們假設(shè)一個(gè)人發(fā)起一個(gè)會話，進(jìn)行一次身份驗(yàn)證，并在會話期間保持相對靜態(tài)的意圖。

智能體打破了這些假設(shè)。它們的上下文每隔幾毫秒就會發(fā)生變化。有一刻，他們正在查詢數(shù)據(jù)集；接下來，調(diào)用一個(gè)新的工具鏈或API。他們的訪問需求是短暫的，不可預(yù)測的。靜態(tài)憑證、長期令牌和基于角色的權(quán)限為特權(quán)漂移、橫向移動和影子身份蔓延創(chuàng)造了巨大的機(jī)會。

這是人工智能時(shí)代核心出現(xiàn)的訪問信任差距。我們已經(jīng)將人工智能擴(kuò)展到從客戶支持到代碼生成的每個(gè)工作流程中，但還沒有擴(kuò)展身份控制來安全地匹配這些系統(tǒng)的速度和自主性。實(shí)際上，我們允許獨(dú)立思考和行動的實(shí)體在我們最敏感的環(huán)境中以20年的安全邏輯運(yùn)行。

人工智能原生身份模型

智能體需要的不僅僅是傳統(tǒng)IAM上的另一個(gè)補(bǔ)丁。它要求一種新的身份操作模型，將智能體視為具有動態(tài)權(quán)限、可驗(yàn)證憑據(jù)和持續(xù)監(jiān)督的一流身份。

該模型的關(guān)鍵原則包括：

短暫訪問：每個(gè)AI操作都應(yīng)該在短暫的、特定于任務(wù)的憑據(jù)下發(fā)生，這些憑據(jù)在操作完成后立即過期。沒有長期特權(quán)，沒有重復(fù)使用，沒有長期Token可供竊取。

持續(xù)策略評估：授權(quán)決策必須基于智能體的當(dāng)前上下文、任務(wù)和行為實(shí)時(shí)做出，而不是基于靜態(tài)角色分配。

AI原生異常檢測：行為基線必須適應(yīng)非確定性、自我修改的系統(tǒng)。我們需要遙測技術(shù)來理解模型推理模式，并能夠標(biāo)記與預(yù)期決策路徑的偏差。

人在環(huán)監(jiān)督：關(guān)鍵操作應(yīng)始終需要明確的人工確認(rèn)和批準(zhǔn)。

本質(zhì)上，我們需要在運(yùn)行時(shí)從身份管理發(fā)展到身份治理。靜態(tài)信任邊界已經(jīng)過時(shí)；現(xiàn)在重要的是，人工智能的行為是否每時(shí)每刻都符合其授權(quán)目的。

設(shè)計(jì)下一個(gè)身份藍(lán)圖

這一轉(zhuǎn)變也對我們構(gòu)建企業(yè)基礎(chǔ)設(shè)施的方式提出了挑戰(zhàn)。IAM層必須發(fā)展成為專為自主工作負(fù)載構(gòu)建的多平面系統(tǒng)：

身份層：人工智能代理的注冊中心，跟蹤來源、培訓(xùn)譜系和證書頒發(fā)。

控制層：通過實(shí)時(shí)連續(xù)策略編排來強(qiáng)制執(zhí)行零站立權(quán)限（ZSP）、準(zhǔn)時(shí)制（JIT）訪問和剛好足夠訪問（JEA）。

數(shù)據(jù)層：通過敏感度感知的訪問控制來中介每一次資源交互。

可觀測層：為安全操作平臺提供遙測數(shù)據(jù)，用于異常檢測、可審計(jì)性和自適應(yīng)信任評。

這些層共同構(gòu)成了代理身份結(jié)構(gòu)的基礎(chǔ)，這是一種將零信任擴(kuò)展到自治系統(tǒng)時(shí)代的治理模型。這不是要取代以人為本的安全；這是關(guān)于確保機(jī)器參與者按照相同的規(guī)則行事，以機(jī)器速度實(shí)時(shí)執(zhí)行。

新的安全方程式

CMU和Anthropic的研究結(jié)果表明人工智能不再只是增強(qiáng)人類攻擊者，它可能正在取代他們。隨著攻擊性人工智能的發(fā)展，依賴于靜態(tài)身份邊界的防御策略將比以往更快、更徹底地失敗。

為了跟上步伐，組織必須認(rèn)識到，每個(gè)智能體既是潛在的合作者，也是潛在的對手。治理必須從創(chuàng)建開始，跟隨智能體完成每一個(gè)操作，并通過中止或停用進(jìn)行控制。

當(dāng)人工智能成為攻擊者時(shí)，身份和訪問就成為了邊界，它必須像它所防御的系統(tǒng)一樣快速、智能地適應(yīng)。

與 Ai 時(shí)代前沿合作，將大門向更多普通用戶敞開！無論你是對新技術(shù)充滿好奇心的愛好者，還是希望提升自己技能的職場人士，這里都有適合你的課程和資源。歡迎掃碼加入我們！