微軟近日悄然發(fā)布了Agent Governance Toolkit（智能體治理工具包），這是一個(gè)專為企業(yè)在生產(chǎn)環(huán)境中監(jiān)控和管控AI智能體而設(shè)計(jì)的開源項(xiàng)目。

這款工具包的推出，是微軟針對(duì)開放全球應(yīng)用安全項(xiàng)目（OWASP）日益關(guān)注的AI及大語言模型安全風(fēng)險(xiǎn)所作出的回應(yīng)。微軟首席工程組負(fù)責(zé)人Imran Siddique在一篇博客文章中介紹，該工具包在運(yùn)行層面增加了安全策略的執(zhí)行能力，可有效緩解提示詞注入等安全問題，同時(shí)提升對(duì)復(fù)雜多步驟工作流中智能體行為的可見性。

具體而言，該工具包完整對(duì)應(yīng)了OWASP針對(duì)智能體系統(tǒng)發(fā)布的十大風(fēng)險(xiǎn)，涵蓋目標(biāo)劫持、工具濫用、身份盜用、供應(yīng)鏈風(fēng)險(xiǎn)、代碼執(zhí)行、內(nèi)存污染、不安全通信、級(jí)聯(lián)故障、人機(jī)信任利用以及惡意智能體等威脅。

談及推出這一工具包的初衷，Siddique指出，當(dāng)前AI系統(tǒng)與管理松散的分布式環(huán)境越來越相似——多個(gè)不可信組件共享資源、自主決策，并在幾乎沒有監(jiān)督的情況下與外部系統(tǒng)進(jìn)行交互。正是這一現(xiàn)狀，促使微軟將操作系統(tǒng)、服務(wù)網(wǎng)格和站點(diǎn)可靠性工程中已被驗(yàn)證的設(shè)計(jì)模式引入AI領(lǐng)域，為這些環(huán)境帶來結(jié)構(gòu)化、隔離性與可控性。

最終，微軟將上述設(shè)計(jì)理念封裝為該工具包的七大組件，支持Python、TypeScript、Rust、Go和.NET等主流編程語言。Siddique表示，跨語言支持的設(shè)計(jì)理念旨在貼合開發(fā)者的實(shí)際使用習(xí)慣，并推動(dòng)工具包在異構(gòu)企業(yè)技術(shù)棧中的集成落地。

在具體組件方面，該工具包包含多個(gè)功能模塊：策略執(zhí)行層Agent OS、安全通信與身份認(rèn)證框架Agent Mesh、執(zhí)行控制環(huán)境Agent Runtime，以及覆蓋可靠性、合規(guī)性、市場(chǎng)治理與強(qiáng)化學(xué)習(xí)監(jiān)管的Agent SRE、Agent Compliance和Agent Lightning等附加組件。

除模塊化設(shè)計(jì)外，Siddique還特別強(qiáng)調(diào)，該工具包從設(shè)計(jì)之初便具備框架無關(guān)性："我們從第一天起就將工具包設(shè)計(jì)為框架無關(guān)的。每一項(xiàng)集成都掛載到各框架原生的擴(kuò)展點(diǎn)上——LangChain的回調(diào)處理器、CrewAI的任務(wù)裝飾器、Google ADK的插件系統(tǒng)、微軟智能體框架的中間件管道——因此引入治理機(jī)制并不需要重寫智能體代碼。"

他進(jìn)一步解釋，這種設(shè)計(jì)方式將有效降低集成成本與風(fēng)險(xiǎn)，使開發(fā)者無需重構(gòu)應(yīng)用架構(gòu)，即可將治理控制引入生產(chǎn)系統(tǒng)，從而不影響現(xiàn)有工作流程。

Siddique還列舉了多個(gè)已在生產(chǎn)環(huán)境中部署的框架集成案例，包括LlamaIndex的TrustedAgentWorker集成。

目前，該工具包已進(jìn)入公開預(yù)覽階段，采用MIT許可證，以單一代碼倉庫（monorepo）結(jié)構(gòu)組織，各組件可獨(dú)立安裝。微軟表示，未來計(jì)劃將該項(xiàng)目移交至基金會(huì)主導(dǎo)的運(yùn)營模式，并已與OWASP智能體AI社區(qū)展開合作，推動(dòng)更廣泛的治理與管理機(jī)制建設(shè)。

Q&A

Q1：微軟智能體治理工具包是什么？主要解決什么問題？

A：微軟智能體治理工具包（Agent Governance Toolkit）是一個(gè)開源項(xiàng)目，專為企業(yè)在生產(chǎn)環(huán)境中監(jiān)控和管控AI智能體而設(shè)計(jì)。它在運(yùn)行層增加了安全策略執(zhí)行能力，可應(yīng)對(duì)提示詞注入、目標(biāo)劫持、身份盜用等OWASP定義的智能體系統(tǒng)十大安全風(fēng)險(xiǎn)，同時(shí)提升對(duì)復(fù)雜多步驟工作流中智能體行為的可見性和可控性。

Q2：微軟智能體治理工具包支持哪些編程語言和AI框架？

A：該工具包支持Python、TypeScript、Rust、Go和.NET五種主流編程語言，并具備框架無關(guān)性，可無縫集成LangChain、CrewAI、Google ADK、微軟智能體框架等主流AI開發(fā)框架，開發(fā)者無需重寫智能體代碼即可引入治理機(jī)制。目前LlamaIndex的TrustedAgentWorker集成已在生產(chǎn)環(huán)境中部署。

Q3：微軟智能體治理工具包現(xiàn)在可以使用嗎？后續(xù)有什么計(jì)劃？

A：該工具包目前已進(jìn)入公開預(yù)覽階段，采用MIT許可證，以單一代碼倉庫結(jié)構(gòu)提供，各組件可獨(dú)立安裝。微軟未來計(jì)劃將項(xiàng)目移交基金會(huì)主導(dǎo)，并已與OWASP智能體AI社區(qū)展開合作，推動(dòng)更廣泛的治理與管理機(jī)制建設(shè)。