點(diǎn)擊下方“JavaEdge”，選擇“設(shè)為星標(biāo)”

第一時(shí)間關(guān)注技術(shù)干貨！

免責(zé)聲明~ 任何文章不要過度深思！萬事萬物都經(jīng)不起審視，因?yàn)槭郎蠜]有同樣的成長(zhǎng)環(huán)境，也沒有同樣的認(rèn)知水平，更「沒有適用于所有人的解決方案」； 別急著評(píng)判文章列出的觀點(diǎn)，只需代入其中，適度審視一番自己即可，能「跳脫出來從外人的角度看看現(xiàn)在的自己處在什么樣的階段」才不為俗人。 怎么想、怎么做，全在乎自己「不斷實(shí)踐中尋找適合自己的大道」

0 前言

本文來看如何使用Spring AI Alibaba構(gòu)建Agent應(yīng)用。

1 需求

智能客服平臺(tái)，可幫助用戶完成機(jī)票預(yù)定、問題解答、機(jī)票改簽、取消等動(dòng)作，具體要求：

• 基于 AI 大模型與用戶對(duì)話，理解用戶自然語言表達(dá)的需求

• 支持多輪連續(xù)對(duì)話，能在上下文中理解用戶意圖

• 理解機(jī)票操作相關(guān)的術(shù)語與規(guī)范并嚴(yán)格遵守，如航空法規(guī)、退改簽規(guī)則等

• 在必要時(shí)可調(diào)用工具輔助完成任務(wù)

2.1 接入AI大模型

不過是用 Spring Boot 開發(fā)普通 Java 應(yīng)用，要能持續(xù)接收用戶提問，解決機(jī)票相關(guān)問題，叫它Agent應(yīng)用是因?yàn)檫@應(yīng)用可與 AI 交互，由 AI 幫助應(yīng)用理解用戶問題并為用戶做決策，簡(jiǎn)化分解后的架構(gòu)：

應(yīng)用由 AI 模型理解用戶問題，決策下一步動(dòng)作、驅(qū)動(dòng)業(yè)務(wù)流程。但任一通用大模型都能解決機(jī)票相關(guān)問題嗎？依賴模型的決策是可靠的嗎？如有用戶提出機(jī)票改簽的訴求，模型一定能很好理解用戶意圖，沒疑問。但：

• 它咋知當(dāng)前用戶符不符合退票規(guī)則？畢竟每個(gè)航空公司改簽規(guī)則都不同

• 它咋知改簽手續(xù)費(fèi)的規(guī)定？在這樣一個(gè)可能帶來經(jīng)濟(jì)糾紛、法律風(fēng)險(xiǎn)的應(yīng)用場(chǎng)景下，AI模型必須要知道改簽規(guī)則的所有細(xì)節(jié)，并逐條確認(rèn)用戶信息復(fù)合規(guī)則后，才能最終作出是否改簽的決策

顯然，單純依賴 AI 模型本身不能滿足需求，就要用到RAG模式。通過 RAG 將機(jī)票退改簽相關(guān)領(lǐng)域知識(shí)輸入給應(yīng)用和 AI 模型，讓 AI 結(jié)合這些規(guī)則與要求輔助決策，增加 RAG 后的架構(gòu)：

有了RAG，應(yīng)用才真正成為智能化的機(jī)票問題專家，就像一個(gè)經(jīng)公司業(yè)務(wù)培訓(xùn)的客服代表，既能人性化與用戶對(duì)話，又能根據(jù)規(guī)則引導(dǎo)用戶行為。

2.3 使用Function Calling執(zhí)行業(yè)務(wù)動(dòng)作

AI Agent可幫應(yīng)用理解用戶需求并決策，但沒法代替應(yīng)用完成決策執(zhí)行，決策執(zhí)行還是要由應(yīng)用自己完成，這點(diǎn)和傳統(tǒng)應(yīng)用無區(qū)別，不論智能化的還是預(yù)先編排好的應(yīng)用，都是要由應(yīng)用本身去調(diào)用函數(shù)修改數(shù)據(jù)庫記錄實(shí)現(xiàn)數(shù)據(jù)持久化。

通過 Spring AI 框架，可將模型的決策轉(zhuǎn)換為對(duì)某個(gè)具體函數(shù)的調(diào)用，從而完成機(jī)票的最終改簽或者退票動(dòng)作，將用戶數(shù)據(jù)寫入數(shù)據(jù)庫，即Function Calling模式。

2.4 使用 Chat Memory 增加多輪對(duì)話能力

大模型是無狀態(tài)的，它看到的只有當(dāng)前這輪對(duì)話的內(nèi)容。因此若要支持多輪對(duì)話效果，需應(yīng)用每次都將之前對(duì)話上下文保留，并與最新問題一并作為 prompt 發(fā)送給模型。這時(shí)，我們可以利用 Spring AI Alibaba 提供的內(nèi)置 Conversation Memory 支持，方便的維護(hù)對(duì)話上下文。

至此，讓我們總結(jié)在這個(gè)智能客服平臺(tái)應(yīng)用使用到的

3 Spring AI Alibaba 核心能力

1. 基本模型對(duì)話能力，通過 Chat Model API 與通義模型交互

2. Prompt 管理能力

3. Chat Memory 聊天記憶，支持多輪對(duì)話

4. RAG、Vector Store，機(jī)票預(yù)定、改簽、退票等相關(guān)規(guī)則

Spring AI Alibaba 不止提供了以上原子能力抽象，還提供了高階 “智能體” API 抽象ChatClient，讓我們可以非常方便的使用流式 Fluent API 把多個(gè)組件組裝起來，成為一個(gè)AI Agent。

具體使用：

this.chatClient = modelBuilder
.defaultSystem("""
您是“Funnair”航空公司的客戶聊天支持代理。請(qǐng)以友好、樂于助人且愉快的方式來回復(fù)。
您正在通過在線聊天系統(tǒng)與客戶互動(dòng)。
在提供有關(guān)預(yù)訂或取消預(yù)訂的信息之前，您必須始終
從用戶處獲取以下信息：預(yù)訂號(hào)、客戶姓名。
在詢問用戶之前，請(qǐng)檢查消息歷史記錄以獲取此信息。
在更改預(yù)訂之前，您必須確保條款允許這樣做。
如果更改需要收費(fèi)，您必須在繼續(xù)之前征得用戶同意。
使用提供的功能獲取預(yù)訂詳細(xì)信息、更改預(yù)訂和取消預(yù)訂。
如果需要，可以調(diào)用相應(yīng)函數(shù)調(diào)用完成輔助動(dòng)作。
請(qǐng)講中文。
今天的日期是 {current_date}.
""")
.defaultAdvisors(
new PromptChatMemoryAdvisor(chatMemory), // Chat Memory
new VectorStoreChatMemoryAdvisor(vectorStore)),
new QuestionAnswerAdvisor(vectorStore, SearchRequest.defaults()), // RAG
new LoggingAdvisor())
.defaultFunctions("getBookingDetails", "changeBooking", "cancelBooking") // FUNCTION CALLING

.build();

這樣ChatClient就為我們屏蔽了所有與大模型交互的細(xì)節(jié)，只需要把ChatClient注入常規(guī)的 Spring Bean 就可以為我們的機(jī)票應(yīng)用加入智能化能力了。

5 運(yùn)行效果

關(guān)注我，緊跟本系列專欄文章，咱們下篇再續(xù)！

★ 作者簡(jiǎn)介：魔都架構(gòu)師，多家大廠后端一線研發(fā)經(jīng)驗(yàn)，在分布式系統(tǒng)設(shè)計(jì)、數(shù)據(jù)平臺(tái)架構(gòu)和AI應(yīng)用開發(fā)等領(lǐng)域都有豐富實(shí)踐經(jīng)驗(yàn)。 各大技術(shù)社區(qū)頭部專家博主。具有豐富的引領(lǐng)團(tuán)隊(duì)經(jīng)驗(yàn)，深厚業(yè)務(wù)架構(gòu)和解決方案的積累。 負(fù)責(zé)： 中央/分銷預(yù)訂系統(tǒng)性能優(yōu)化 活動(dòng)&券等營銷中臺(tái)建設(shè) 交易平臺(tái)及數(shù)據(jù)中臺(tái)等架構(gòu)和開發(fā)設(shè)計(jì) 車聯(lián)網(wǎng)核心平臺(tái)-物聯(lián)網(wǎng)連接平臺(tái)、大數(shù)據(jù)平臺(tái)架構(gòu)設(shè)計(jì)及優(yōu)化 LLM Agent應(yīng)用開發(fā) 區(qū)塊鏈應(yīng)用開發(fā) 大數(shù)據(jù)開發(fā)挖掘經(jīng)驗(yàn) 推薦系統(tǒng)項(xiàng)目 目前主攻市級(jí)軟件項(xiàng)目設(shè)計(jì)、構(gòu)建服務(wù)全社會(huì)的應(yīng)用系統(tǒng)。 ”

參考：

• 編程嚴(yán)選網(wǎng)

編程嚴(yán)選網(wǎng)：http://www.javaedge.cn/ 專注分享軟件開發(fā)全生態(tài)相關(guān)技術(shù)文章、視頻教程資源、熱點(diǎn)資訊等，全站資源免費(fèi)學(xué)習(xí)，快來看看吧~ 【編程嚴(yán)選】星球

歡迎長(zhǎng)按圖片加好友，我會(huì)第一時(shí)間和你分享軟件行業(yè)趨勢(shì)，面試資源，學(xué)習(xí)方法等等。

公眾號(hào)后臺(tái)私信：

• 更多教程資源應(yīng)有盡有

想先人一步獲取以上所有資源？加入《編程嚴(yán)選》星球一鍵獲取！