文章讲述了AI模型在处理知识密集型任务时出现的“幻觉”问题即模型会“一本正经地胡说八道”。为了解决这个问题Facebook AI Research提出了RAG技术即“检索增强生成”核心思路是给模型“开卷考试”结合参数化内存模型自身知识和非参数化内存外挂知识库通过检索-生成三步走流程让模型在答题时能参考外部资料从而提高准确性和可解释性。RAG技术在多个问答基准上取得了优异表现并在实际应用中展现出巨大潜力尤其在企业级AI助手等垂直场景中。文章最后展望了RAG技术的未来发展方向强调参数化记忆与非参数化内存的交互和有效结合至关重要。我有个朋友去年拿 AI 查一个法律问题。模型洋洋洒洒给他引用了三条法规编号精确到款和项语气笃定得像个执业二十年的律师。他拿去给真律师看了。三条里有两条是编的。编号、内容、全是捏造的——但写得太像了。这事儿其实不稀奇。业内管它叫“幻觉”Hallucination但我觉得这个词太温和了叫“一本正经地胡说八道”更贴切。模型不是在查资料它是在赌根据概率赌一个看起来最像答案的句子。2021年Facebook AI Research现 Meta AI的 Patrick Lewis 等人发了一篇论文试图从根上解决这个问题。论文名字很长叫Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks——翻译过来就是“面向知识密集型 NLP 任务的检索增强生成”。这篇论文后来成了 RAG 这个技术路线的开山之作。它的核心思路说穿了就一句话别让模型闭卷考试了给它开卷。闭卷学霸为什么也会翻车先说清楚问题出在哪。GPT 这类大模型在训练的时候吃进去了互联网上几乎所有公开的文本。训练完成之后那些知识就压在了模型的参数里——几百亿个浮点数像是一块巨大的、被高度压缩过的硬盘。Lewis 等人在论文开头就指出了这种纯参数化模型的三个硬伤“They cannot easily expand or revise their memory, can’t straightforwardly provide insight into their predictions, and may produce ‘hallucinations’.”它们无法轻易扩展或修改自身记忆无法直观地解释预测依据还可能产生幻觉。说得更直白一点第一知识会过期2025 年训完的模型不知道 2026 年的事第二它答错的时候不会脸红甚至比答对的时候还自信第三你没法追问它这个结论到底是从哪学来的因为它自己也说不清。打个比方这就像一个把所有教科书倒背如流的学生被关在小黑屋里闭卷答题。碰到学过的题它确实很厉害碰到超纲的、或者记混了的它不会空着不填而是会编一个看起来很像答案的东西交上去。论文管这类“不查资料就答不好”的问题叫knowledge-intensive tasks原文定义是“tasks that humans could not reasonably be expected to perform without access to an external knowledge source”那些即便是人类不查外部资料也很难完成的任务。你想想确实如此。我们人做知识型工作的时候谁是纯靠记忆的写论文要查文献写合同要翻法条就连修个水管都得先搜一下教程。那凭什么要求一个模型光靠脑子里的存货就把所有事情搞定呢拆解 RAG参数化内存 vs 非参数化内存Lewis 等人给出的解法是把两种不同的“记忆系统”缝合在一起。论文里把它们叫做parametric memory参数化内存和non-parametric memory非参数化内存。原文是这么说的“models which combine pre-trained parametric and non-parametric memory for language generation”将预训练的参数化内存与非参数化内存相结合用于语言生成的模型。这两个术语听着唬人其实逻辑很朴素。参数化内存就是模型训练时记住的东西。它固化在神经网络的权重参数里。这东西类似于一个人的常识和直觉——圆周率约等于 3.14水是 H₂O莎士比亚是英国人。你不需要查资料就能脱口而出但想修改它比如发现某个常识其实是错的代价很高得重新训练。论文里这部分由 BART-large 模型承担。论文原文明确写道“We refer to the BART generator parameters θ as the parametric memory henceforth.”我们此后将 BART 生成器的参数 θ 称为参数化内存。非参数化内存就是一个外挂的知识库。论文里用的是整个英文维基百科——每篇文章被切成 100 词的小段总共约 2100 万个文档块全部转成向量存进索引。这东西就像一个随身 U 盘里面的资料可以随时增删替换不需要重新训练模型。“We refer to the document index as the non-parametric memory.”我们将文档索引称为非参数化内存。这两种记忆的关系像极了你和你的笔记本。你脑子里记得大概的框架和思路参数化内存遇到具体细节需要确认时翻开笔记本查一下非参数化内存。两者配合才不容易出错。它具体是怎么干活的检索-生成三步走RAG 的工作流程可以拆成三步。用论文里的架构图图1来讲第一步编码问题。用户提了一个问题 xQuery Encoder查询编码器基于 BERT把它转成一个稠密向量 qx。这一步本质上是把自然语言翻译成机器能比较的数学表示。第二步检索资料。Retriever检索器拿着 qx 去维基百科的向量索引里找最相关的 Top-K 个文档段落。论文用的检索器是 DPRDense Passage Retriever底层逻辑是算向量之间的内积——内积越大相关性越高。论文里管这个过程叫MIPSMaximum Inner Product Search最大内积搜索。具体来说pη(z|x) ∝ exp(d(z)ᵀq(x))也就是文档向量 dz 和查询向量 qx 的内积越大这个文档被检索到的概率就越高。你可以把这步想象成一个图书管理员你告诉他你要查什么他跑去书架上找出最相关的五本书摞到你面前。第三步生成答案。Generator生成器基于 BART拿到原始问题和检索到的文档把它们拼在一起综合生成最终的回答。最关键的一点这个流程是端到端联合训练end-to-end的。检索器和生成器不是各干各的而是在训练过程中一起优化。检索器会慢慢学会该为生成器找什么样的资料才能让最终答案更好。论文原文描述这个过程“We treat the retrieved document as a latent variable.”我们将检索到的文档视为隐变量。“隐变量这个词在概率模型里有特定含义你不直接观测它但它影响最终结果。翻译成大白话——模型不需要有人手把手告诉它你该去查哪篇文章”它自己学着去摸索。论文最硬核的设计RAG-Sequence vs RAG-Token如果上面的内容你都消化了这一段带你再深入一层。检索到了 K 篇文档之后怎么用它们论文给出了两种策略区别在于“边缘化”marginalize的粒度不同。RAG-Sequence一篇文档读到底。对每一篇检索到的文档 z生成器都独立地生成一个完整的回答。然后把 K 个回答的概率加权平均。数学上长这样pRAG-Sequence(y|x) ≈ Σ_z∈top-k pη(z|x) · Π_i pθ(yᵢ|x, z, y₁:ᵢ₋₁)直觉理解这就像一个厨师拿到五本食谱每次严格按一本书从头做到尾做出五道菜然后综合评分。 好处是每道菜的内部逻辑是连贯的。RAG-Token逐词切换参考源。每生成一个 token词元都重新在 K 篇文档之间做一次加权。 数学上pRAG-Token(y|x) ≈ Π_i Σ_z∈top-k pη(z|x) · pθ(yᵢ|x, z, y₁:ᵢ₋₁)注意两个公式的区别连乘号 Π 和求和号 Σ 的位置换了。 Sequence 是“先对每篇文档生成完整序列再求和”;Token 是“先对每个词在所有文档上求和再连乘”。 一个字的顺序之差语义天壤之别。直觉理解这次厨师更灵活了——炒到第三步的时候他瞄了一眼第二本食谱加调料的时候又翻了第四本。 他在五本书之间来回横跳博采众长。论文里有一个特别漂亮的例子能说明 RAG-Token 的威力见论文 Figure 2。输入是“Hemingway”海明威任务是生成 Jeopardy 风格的问题。模型生成的句子里同时提到了《太阳照常升起》The Sun Also Rises和《永别了武器》A Farewell to Arms——在生成前者时关于海明威出道小说的那篇文档后验概率飙高;而在生成后者时权重又切换到了另一篇文档。更有意思的是论文接着发现每本书的标题只要开头一两个词被生成出来后续的词就不怎么依赖检索文档了——因为 BART 自己的参数化记忆里就存着这些书名。 这说明参数化内存和非参数化内存确实在协同工作外部文档负责引路内部参数负责补全。实验数据不是空谈是真打出来的论文不只是讲道理实验做得非常扎实。在 Natural Questions、WebQuestions、CuratedTrec 三个主流开放域问答基准上RAG 当时刷新了 SOTA最优成绩。拿 Natural Questions 举例RAG-Sequence 拿到了 44.5 的 Exact Match 分数而参数量比它大十几倍的 T5-11B 闭卷模式只有 34.5。人类评估更能说明问题。在 Jeopardy 问题生成任务上论文做了 452 组人工对比评测Table 4。评估者认为 RAG 比纯 BART 更真实factual的比例是 42.7%反过来认为 BART 更好的只有 7.1%。在 specificity具体性上RAG 也以 37.4% 对 16.8% 大幅领先。论文还做了一个我觉得最能打动工程师的实验——**索引热替换Index hot-swapping。**他们用 2016 年的维基百科索引问秘鲁总统是谁答的是 2016 年的总统换成 2018 年的索引立刻就答对了 2018 年的总统。准确率从错配时的 12% 跳到匹配时的 68%。论文对此的总结是“This shows we can update RAG’s world knowledge by simply replacing its non-parametric memory.”这表明我们可以通过简单替换非参数化内存来更新 RAG 的世界知识。不用重新训练换个U 盘就行。这对实际落地意味着什么做过工程的人应该秒懂。从论文到现实垂直场景的深水区理论讲完了聊聊落地。今天你看到的大部分“企业级 AI 助手”——不管是法律的、医疗的、金融的——背后几乎都跑着某种 RAG 架构。原因很简单企业场景的知识是专有的、动态更新的、而且出错的代价极高。你不可能靠通用大模型的记忆来回答一个关于公司内部合规条款的问题。回到开头那个法律场景。如果用 RAG 的思路来做先把所有法条、司法解释、经典判例灌进向量知识库用户提问时检索器先精准找到《劳动合同法》第八十二条和相关司法解释原文生成器再结合这些原始材料来组织回答。这样输出的答案不仅有依据还能溯源——用户点一下就能看到这个结论是基于哪条法规得出的。再往前走一步如果知识库不只是扁平的文档集合而是一个结构化的知识图谱——法条之间的引用关系、判例之间的关联、司法解释与上位法的对应——RAG 就不仅仅是翻书而是在一张知识网络中做多跳推理从一个法条出发沿着引用链找到关联的判例和解释给出真正有理有据的答案。这也是 Lewis 等人在论文讨论部分留下的展望方向之一“how parametric and non-parametric memories interact and how to most effectively combine them”参数化记忆与非参数化记忆如何交互以及如何最有效地将它们结合。五年过去了这个问题仍然是 RAG 研究的核心。写在最后Lewis 等人那篇论文发表于 2020 年到现在过去五年多了。RAG 这个概念也从一篇论文变成了一整条技术路线衍生出了无数变体和改进。但核心思想始终没变别让模型光靠脑子答题让它学会翻书。说到底人类的智慧也不是什么都记得住而是知道去哪里找到答案。好的 AI也该如此。假如你从2026年开始学大模型按这个步骤走准能稳步进阶。接下来告诉你一条最快的邪修路线3个月即可成为模型大师薪资直接起飞。阶段1:大模型基础阶段2:RAG应用开发工程阶段3:大模型Agent应用架构阶段4:大模型微调与私有化部署配套文档资源全套AI 大模型 学习资料朋友们如果需要可以微信扫描下方二维码免费领取【保证100%免费】配套文档资源全套AI 大模型 学习资料朋友们如果需要可以微信扫描下方二维码免费领取【保证100%免费】