當(dāng)大廠們還在財(cái)報(bào)季里秀肌肉的時(shí)候,我們已經(jīng)把他們的財(cái)報(bào)數(shù)據(jù)喂給了AI——不是普通的AI,是能"動(dòng)腦筋"的那種。

傳統(tǒng)知識(shí)庫面對(duì)"某大廠在AI領(lǐng)域的資源傾斜方向"這類問題時(shí),基本上就是個(gè)"復(fù)讀機(jī)":找得到現(xiàn)成答案就復(fù)述,找不到就擺爛。但今天,我們要聊的這個(gè)狠角色不一樣——它叫KAG(Knowledge Augmented Generation,知識(shí)增強(qiáng)生成),一個(gè)能把復(fù)雜問題拆解成碎片、逐個(gè)擊破的"問答高手"。

評(píng)測(cè)機(jī)構(gòu)：至頂AI實(shí)驗(yàn)室

測(cè)評(píng)時(shí)間：2025年7月12日

評(píng)測(cè)產(chǎn)品：戴爾 Precision Max Slim

主要參數(shù)：搭載英偉達(dá)RTX 4000 SFF Ada專業(yè)顯卡

評(píng)測(cè)主題：在戴爾 Precision Max Slim上部署KAG大模型

KAG是什么?硬件配置有多硬核?

KAG的全稱是知識(shí)增強(qiáng)生成,本質(zhì)上是一個(gè)基于OpenSPG引擎和大語言模型的邏輯推理與問答框架。如果把傳統(tǒng)RAG比作"按圖索驥"的工具人,那KAG就是"能推理會(huì)思考"的偵探——它最大的殺手锏,是能自動(dòng)將邏輯復(fù)雜的問題分解為多個(gè)子問題,依次查詢、匯總,最終給出經(jīng)過推理的答案。

這種"多跳問答"能力,讓KAG在處理需要關(guān)聯(lián)分析、邏輯推演的場(chǎng)景時(shí),準(zhǔn)確性遠(yuǎn)超傳統(tǒng)RAG。但代價(jià)也很明顯:它對(duì)算力有要求。

我們這次的評(píng)測(cè)環(huán)境是戴爾Precision Max Slim工作站,搭載英偉達(dá)RTX 4000 SFF Ada專業(yè)顯卡。這套配置為KAG的知識(shí)構(gòu)建和知識(shí)問答提供了充足的算力支撐——畢竟,讓AI"動(dòng)腦筋"可比讓它"背書"費(fèi)勁多了。

評(píng)測(cè)流程:從零到"能打"只需幾步 第一步:準(zhǔn)備模型

在正式部署KAG之前,我們先在Ollama中準(zhǔn)備了兩個(gè)模型:一個(gè)嵌入模型(Embedding Model)和一個(gè)對(duì)話模型(Chat Model)。這兩個(gè)模型是KAG理解語義和生成回答的基礎(chǔ)。

第二步:Docker部署

整個(gè)部署過程出乎意料的簡(jiǎn)單。我們直接從KAG的GitHub地址獲取部署文件,按照官方文檔的步驟操作,在Docker中完成了KAG的容器化部署。幾分鐘后,KAG就跑起來了。

在Docker管理界面中找到KAG容器,點(diǎn)擊進(jìn)入Web界面。首次登錄需要修改默認(rèn)密碼,這一步也是秒級(jí)完成。

第三步:基礎(chǔ)配置

創(chuàng)建知識(shí)庫之前,需要做一些必要的配置:

• 在通用配置中設(shè)置基礎(chǔ)參數(shù)

• 在模型配置中添加之前下載好的對(duì)話模型

配置完成后,就可以正式創(chuàng)建知識(shí)庫了。我們?yōu)橹R(shí)庫命名,上傳了多份大廠財(cái)報(bào)文件,點(diǎn)擊"下一步"再"完成",知識(shí)庫就構(gòu)建完畢。

實(shí)戰(zhàn)效果:這才是真正的"理解"

配置完成后,我們進(jìn)入了最關(guān)鍵的測(cè)試環(huán)節(jié)。

在推理問答界面,我們輸入了一個(gè)典型的復(fù)雜問題——關(guān)于某大廠在AI領(lǐng)域的戰(zhàn)略動(dòng)向與資源傾斜方向。這類問題需要從財(cái)報(bào)數(shù)據(jù)中提取多個(gè)維度的信息,理清它們之間的邏輯關(guān)系,才能給出準(zhǔn)確答案。

KAG的表現(xiàn)讓人眼前一亮。

系統(tǒng)界面上出現(xiàn)了一個(gè)流程圖,清晰地展示了KAG的推理過程:它自動(dòng)將我們的問題拆分成了幾個(gè)子問題,比如"該企業(yè)在AI領(lǐng)域的投資金額""AI相關(guān)業(yè)務(wù)的收入占比""管理層在電話會(huì)議中的表態(tài)"等等。然后,KAG逐個(gè)查詢這些子問題,最后匯總成一個(gè)完整、有邏輯的答案。

這種"分而治之"的策略,正是KAG最核心的特點(diǎn)——它不是簡(jiǎn)單地檢索關(guān)鍵詞,而是真正理解了問題的結(jié)構(gòu)和邏輯。

相比之下,如果用傳統(tǒng)知識(shí)庫處理同樣的問題,得到的往往是支離破碎的信息片段:它能找到財(cái)報(bào)里的某些數(shù)字,但無法理清這些數(shù)字背后的因果關(guān)系,更談不上綜合分析。傳統(tǒng)知識(shí)庫只會(huì)"找答案",不會(huì)"想答案"。

結(jié)論:復(fù)雜推理場(chǎng)景下的降維打擊

通過這次評(píng)測(cè),我們可以得出幾個(gè)明確的結(jié)論:

KAG在復(fù)雜邏輯推理任務(wù)上的表現(xiàn),對(duì)傳統(tǒng)RAG構(gòu)成了降維打擊。 面對(duì)需要多跳推理、關(guān)聯(lián)分析的問題,KAG能夠真正"看懂"資料,理清數(shù)據(jù)間的復(fù)雜關(guān)系,給出經(jīng)過推理的答案。而傳統(tǒng)知識(shí)庫只能機(jī)械地檢索現(xiàn)成答案,遇到需要"動(dòng)腦筋"的問題就束手無策。

部署和使用門檻并不高。 雖然KAG對(duì)算力有一定要求,但在配置合理的工作站上(如搭載RTX 4000級(jí)別顯卡的設(shè)備),整個(gè)部署流程非常流暢,配置界面也相對(duì)友好。

適用場(chǎng)景清晰。 如果你的業(yè)務(wù)場(chǎng)景涉及財(cái)報(bào)分析、多維度數(shù)據(jù)關(guān)聯(lián)、復(fù)雜邏輯推理等需求,KAG絕對(duì)是值得投入的方案。它不僅答得更準(zhǔn),效率也明顯更高。

在AI技術(shù)快速迭代的今天,從"檢索增強(qiáng)"到"知識(shí)增強(qiáng)",從"找答案"到"推理答案",這或許就是下一代智能問答系統(tǒng)的進(jìn)化方向。而KAG,已經(jīng)率先跑通了這條路。