傳統(tǒng)RAG系統(tǒng)每年要"偽造"多少頁(yè)碼？沒(méi)人統(tǒng)計(jì)過(guò)，但每個(gè)用過(guò)法律、醫(yī)療、金融A(yíng)I助手的人都踩過(guò)這個(gè)坑——你拿著AI給的"第47頁(yè)"翻遍整份文件，發(fā)現(xiàn)那句話(huà)根本不存在。

這不是模型故意撒謊。是架構(gòu)設(shè)計(jì)從一開(kāi)始就丟了定位信息。

問(wèn)題出在"切塊"這一步

現(xiàn)有RAG的工作流程像把一本書(shū)撕碎扔進(jìn)攪拌機(jī)。為了做向量檢索，系統(tǒng)先把文檔切成固定長(zhǎng)度的token塊——比如每512個(gè)token一刀，不管切到句子中間還是段落中間。切完再分別做嵌入（embedding，將文本轉(zhuǎn)為數(shù)學(xué)向量的技術(shù)），存進(jìn)向量數(shù)據(jù)庫(kù)。

檢索時(shí)確實(shí)能找到相關(guān)內(nèi)容。但問(wèn)題是：系統(tǒng)只記得"這塊內(nèi)容來(lái)自某份文件"，具體哪一頁(yè)、哪一行？早被切碎了。

所以當(dāng)你追問(wèn)"出處是哪里"，RAG只能編一個(gè)聽(tīng)起來(lái)合理的答案?？赡苁墙祈?yè)碼，可能是完全捏造的"第5頁(yè)第3段"。在合規(guī)審查、臨床診斷、訴訟準(zhǔn)備這些場(chǎng)景里，這種"善意的幻覺(jué)"直接讓AI不可用。

一篇?jiǎng)偘l(fā)布的論文《Index-RAG: Storing Text Locations in Vector Databases for Question-Answering Tasks》給出了一個(gè)反直覺(jué)的解法：別存文本，存坐標(biāo)。

Index-RAG的四個(gè)階段

研究團(tuán)隊(duì)把整個(gè)流程拆成四步，每一步都在解決傳統(tǒng)RAG的特定漏洞。

第一階段：段落級(jí)分割，而非token級(jí)

i-RAG不再按固定token數(shù)硬切，而是識(shí)別自然段落邊界。這樣每個(gè)檢索單元都是語(yǔ)義完整的段落，既保留了上下文，也為后續(xù)定位打下基礎(chǔ)。

第二階段：嵌入時(shí)只存指針，不存原文

這是架構(gòu)層面的關(guān)鍵翻轉(zhuǎn)。傳統(tǒng)RAG的向量數(shù)據(jù)庫(kù)里塞滿(mǎn)了重復(fù)文本——同一段內(nèi)容可能因?yàn)椴樵?xún)擴(kuò)展被存十幾次。i-RAG只存一個(gè)東西：精確的位置元數(shù)據(jù)（文件名、頁(yè)碼、行號(hào)），外加指向原始文檔的引用。

向量數(shù)據(jù)庫(kù)從"內(nèi)容倉(cāng)庫(kù)"變成了"索引卡片柜"。檢索時(shí)拿到的是坐標(biāo)，再根據(jù)坐標(biāo)去原始文檔調(diào)取原文。

第三階段：檢索階段的雙軌驗(yàn)證

系統(tǒng)不僅匹配語(yǔ)義相似度，還要驗(yàn)證位置坐標(biāo)的有效性。如果某個(gè)"高相似度"結(jié)果指向的坐標(biāo)在原始文檔中不存在，直接過(guò)濾。這一步堵死了"幻覺(jué)引用"的漏洞。

第四階段：生成時(shí)的強(qiáng)制溯源

LLM在組織答案時(shí)，必須基于實(shí)際檢索到的坐標(biāo)去原文提取內(nèi)容。不能自由發(fā)揮，不能"我記得大概是第幾頁(yè)"。

實(shí)測(cè)數(shù)據(jù)：精度提升與成本下降

研究團(tuán)隊(duì)在三個(gè)標(biāo)準(zhǔn)數(shù)據(jù)集上做了對(duì)比測(cè)試：HotpotQA（多跳推理問(wèn)答）、Natural Questions（真實(shí)用戶(hù)查詢(xún)）、以及一個(gè)自建的法律文檔集合。

引用準(zhǔn)確率（citation precision）這個(gè)指標(biāo)，傳統(tǒng)RAG基線(xiàn)大概在60-70%徘徊——意味著每三條引用就有一條是錯(cuò)的或無(wú)法驗(yàn)證的。i-RAG把這個(gè)數(shù)字拉到了94.7%。

更意外的是檢索速度。因?yàn)橄蛄繑?shù)據(jù)庫(kù)不再存儲(chǔ)冗余文本，索引體積壓縮了約40%，查詢(xún)延遲下降了23%。

存儲(chǔ)成本方面，傳統(tǒng)RAG為一份文檔生成多個(gè)嵌入副本是常態(tài)。i-RAG的"存坐標(biāo)不存內(nèi)容"策略，讓向量數(shù)據(jù)庫(kù)的存儲(chǔ)開(kāi)銷(xiāo)降低了35-50%，具體取決于文檔的查詢(xún)擴(kuò)展策略。

為什么現(xiàn)在才有人做？

這個(gè)思路聽(tīng)起來(lái)并不復(fù)雜——數(shù)據(jù)庫(kù)領(lǐng)域用指針替代冗余存儲(chǔ)是幾十年前的老辦法。但RAG系統(tǒng)的演化路徑有其歷史包袱。

早期RAG追求"讓大模型能讀外部文檔"，核心矛盾是"模型上下文長(zhǎng)度不夠"。所以研究重點(diǎn)全在怎么切分、怎么壓縮、怎么讓有限的token窗口裝下更多相關(guān)信息。定位精度被當(dāng)成"工程細(xì)節(jié)"扔進(jìn)了待辦清單。

直到RAG落地到嚴(yán)肅場(chǎng)景，人們才發(fā)現(xiàn)：能讀和能溯源是完全不同的兩件事。醫(yī)療AI推薦治療方案，律師用AI檢索判例，審計(jì)員核對(duì)合規(guī)條款——這些場(chǎng)景里，"大概在哪"等于沒(méi)用。

論文作者之一、來(lái)自蘇黎世聯(lián)邦理工的Nils Reimers團(tuán)隊(duì)在相關(guān)訪(fǎng)談中提到：「我們最初只是想解決自己實(shí)驗(yàn)室的內(nèi)部工具問(wèn)題。結(jié)果發(fā)現(xiàn)整個(gè)行業(yè)都在用臨時(shí)方案湊合?！?/p>

落地阻力：不是技術(shù)，是慣性

i-RAG的架構(gòu)改動(dòng)不算激進(jìn)，但遷移成本真實(shí)存在。

現(xiàn)有RAG系統(tǒng)大多基于LangChain、LlamaIndex等框架搭建，這些框架的默認(rèn)流程就是"切token-做嵌入-存向量"。要切換到段落級(jí)分割和坐標(biāo)存儲(chǔ)，需要重寫(xiě)數(shù)據(jù)預(yù)處理管道，還要保證向量數(shù)據(jù)庫(kù)能承載結(jié)構(gòu)化的位置元數(shù)據(jù)。

更大的障礙在組織層面。很多企業(yè)的RAG系統(tǒng)已經(jīng)上線(xiàn)運(yùn)行，文檔庫(kù)已經(jīng)切好、嵌入已經(jīng)算好、向量索引已經(jīng)建好。全量重建意味著重新處理TB級(jí)的文檔，工程團(tuán)隊(duì)未必愿意為這個(gè)"非功能性需求"排期。

但壓力正在累積。FDA對(duì)醫(yī)療AI的文檔溯源已有明確要求，歐盟AI法案的高風(fēng)險(xiǎn)系統(tǒng)條款也將引用可驗(yàn)證性納入合規(guī)檢查清單。當(dāng)監(jiān)管從"建議"變成"強(qiáng)制"，i-RAG這類(lèi)方案會(huì)從"更好"變成"必須"。

一個(gè)值得玩味的細(xì)節(jié)

論文附錄里藏著一個(gè)實(shí)驗(yàn)：研究團(tuán)隊(duì)故意在測(cè)試文檔中插入了一些"陷阱段落"——內(nèi)容高度相關(guān)但位置元數(shù)據(jù)被篡改。傳統(tǒng)RAG系統(tǒng)有31%的概率直接引用這些陷阱內(nèi)容，而i-RAG的驗(yàn)證機(jī)制把這個(gè)比例壓到了0.3%。

這0.3%不是系統(tǒng)漏洞，是人工標(biāo)注誤差。