現(xiàn)在似乎所有人都在做AI Agent。但隨機(jī)問十個開發(fā)者"什么是AI Agent"，你會得到十種不同的答案。有人說，只要有工具調(diào)用能力的LLM就是Agent；有人強調(diào)自主行動的能力；還有人隨手一指某個聊天機(jī)器人，說這就是Agent。

這種定義的模糊不只是學(xué)術(shù)問題——它直接導(dǎo)致了安全問題。你無法精確描述一個系統(tǒng)，又怎么能保護(hù)它？

拋開那些強調(diào)自主決策程度的通用定義，我更傾向一個偏技術(shù)向的定義。這個定義來自微軟，與OWASP的定義高度一致：

"AI Agent是一種靈活的軟件程序，使用生成式AI模型來解釋輸入、推理問題，并決定最合適的行動。Agent建立在五個核心組件之上。"

與傳統(tǒng)基于固定規(guī)則的應(yīng)用不同，Agent通過根據(jù)實時上下文動態(tài)編排工作流，獲得了超越傳統(tǒng)軟件能力的適應(yīng)性和復(fù)雜性管理能力。

這個定義可以可視化為一張架構(gòu)圖：除輸入、輸出和外部資源外，Agent的核心是指令集、LLM和Agent Core。

LLM是Agent的大腦，負(fù)責(zé)必要的推理和決策。Agent Core則是編排LLM與外部世界交互的軟件組件——也就是你用Python、JavaScript、C#等語言編寫的、與LLM交互的那部分代碼。

在Agent Core內(nèi)部，有兩個關(guān)鍵組件被特別標(biāo)注：Agent Control和Tools。Agent Control是Agent的心臟，協(xié)調(diào)LLM與外部世界的所有交互。Tools組件代表向LLM開放的所有功能，如計算函數(shù)、文件系統(tǒng)訪問等，也是連接外部工具和資源的接口。

Agent Control與Tools的組合構(gòu)成了Agent Core——本質(zhì)上就是傳統(tǒng)的代碼，沒有任何智能功能。

從這張圖中可以觀察到兩個關(guān)鍵事實，而它們正是理解AI Agent本質(zhì)及其安全機(jī)制的基礎(chǔ)：

第一，AI Agent的兩個核心組件性質(zhì)截然不同：一個是傳統(tǒng)的確定性應(yīng)用，另一個是非確定性的LLM。

Agent Core通過確定性代碼向LLM發(fā)送輸入、提供功能、處理輸出。你可以分析它、測試它，知道它的工作原理，也知道給定輸入必然得到相同輸出。

LLM則完全不同：給定相同的輸入，它不會給出確定性的響應(yīng)。