首先是什么RAG是模型生成回答前从指定知识库中精准抓取信息再结合这些依据去生成内容回答问题给一个学霸配备一个随身图书馆方便随时查阅核心就是知识库存资料、检索器查资料、排序器整理需要的资料、生成器写答案然后为什么要用最关键的提升回答准确性减少事实错误幻觉RAG通过实时检索外部知识为模型提供可靠依据能显著降低模型“幻觉”生成更可信的回答。解决模型知识陈旧与数据局限大语言模型的知识受限于训练数据RAG可以动态接入最新或专有数据源动态实时检索让模型保持知识更新和专业性。突破输入长度限制处理大规模知识模型本身有输入长度限制RAG通过外部知识库承载大量信息使模型能够引用超出自身处理范围的专业或详细内容。增强通用性适配多领域任务结合检索与生成模型能灵活应对不同行业与用户需求扩展应用场景提升产品适用范围与实用性。最后怎么做它的工作流分三步一、数据预处理阶段知识库构建和文档解析与清洗→文档分块chunks→Embedding处理1.文档解析与清洗参考小红书AI观察者http://xhslink.com/o/pIBrQw0R0o2.文档切块3.Embedding处理对切块后的文档进行向量化的处理然后使用向量数据库进行存储向量数据库Milvus、Faiss、Elaticsearch、Chroma二、检索阶段查询向量数据库相似性检索→重排序相关性排序1.查询向量数据库相似性检索核心任务结合语义/关键词/图进行检索向量数据库Milvus、Faiss、Elaticsearch、Chroma2.reranking核心任务提升召回结果的相关性如果说相似性检索是尽可能召回多的候选内容那么重排序就是在候选里面挑出最优根据相关性选出top-k个chunk把真正相关的文档放在最前面这样可以显著提高召回率减少无关信息进入生成阶段降低LLM计算负担和幻觉风险。|| |具体技术路径可参考小红书荆言Winterhttp://xhslink.com/o/9iL0IYsDfZ三、生成阶段模型选型 → 上下文组装 → 提示词工程PE工程 → 生成参数调优 → 生成回答大模型基于“带依据的上下文”输出结构化回答结合 1.用户的Query 和 2.检索器从知识库中找到的相关文本块上下文生成一个最终的、连贯且信息丰富的回答这个过程就是“增强生成”。PSPE工程我们有机会单独讲这个很重要*补充1RAG中如何对用户问题进行Query的改写洞察问题此处请结合大家做过的项目/实习具体场景来谈1信息缺失用户仅说 “我要还多少”未明确贷款合同编号、账单所属月份、还款计划类型缺少指代主体。2表述模糊用户问 “逾期影响大吗”未明确逾期时长、贷款产品类型、逾期金额范围模糊影响维度包括征信、罚息、催收措施等。3依赖上下文多轮对话中用户先问 “我逾期 3 天能申请宽限期吗”接着问 “那这样还会收罚息吗”后一个 Query 依赖 “宽限期申请” 的上下文。4复杂多问用户问 “我现在逾期 10 天先还一半的话剩下的能延期吗另外我是担保人担保的这会影响担保人吗”包含 “逾期部分还款后延期可能性”“担保人责任影响” 两个子问题。选择策略1信息缺失 / 表述模糊零样本改写 HyDE零样本改写示例用户问 “我要还多少” → 改写为 “您编号为【XXX】的贷款合同XX 月的应还款金额是多少含本金、利息及手续费”。HyDE 示例用户问 “我的还款计划是怎样的” → 先让 LLM 生成假设答案 “用户想了解其贷款合同的分期还款计划包含每期还款金额、还款日期、剩余期数”再用该假设检索知识库中匹配的还款计划详情。2需要全面信息多查询生成典型场景用户问 “分期还款划算吗”生成多轮查询“分期还款的手续费率是多少”“分期还款对个人征信的影响”“分期还款的申请流程及审核时间”→ 检索后整合信息给用户清晰的成本、影响、流程说明。3多轮对话上下文压缩与注入LLM 总结对话历史成独立 Query 检索用户“我贷款逾期 5 天了客服说可以申请协商还款怎么弄”用户“那协商期间还会算罚息吗”→ LLM 总结上下文为 “用户贷款逾期 5 天询问协商还款流程及协商期间的罚息计算规则”再独立检索答案。4复杂问题问题分解用户问 “我担保的朋友逾期了他还了一部分剩下的没还我需要承担全部责任吗另外我自己的贷款还能正常申请吗”拆解为两个子问题“担保人在借款人部分还款后剩余未还债务的责任范围”“担保人自身贷款申请是否受被担保人逾期的影响”→ 分别检索后整合回答确保逻辑清晰、覆盖全面。权衡改写增加 LLM 调用成本和延迟简单问题直接检索更经济复杂场景值得投入参考小红书赵多金AI产品经理http://xhslink.com/o/6iH3PFJvdAo*补充2如何测评RAG的效果检索阶段核心指标精确率和召回率 其他指标效率、鲁棒性故意写一些错别字进行检测生成阶段 核心指标事实准确性幻觉率、事实冲突率、矛盾陈述率、信息完整性要素召回率、表达流畅性因果链是否完整如何测自动化评测人工评测四元组标注法陈述、来源、准确性、完整性参考小红书俊霖霖http://xhslink.com/o/1qC8UNfBXQG这里给大家精心整理了一份全面的AI大模型学习资源包括AI大模型全套学习路线图从入门到实战、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等资料免费分享扫码免费领取全部内容1. 成长路线图学习规划要学习一门新的技术作为新手一定要先学习成长路线图方向不对努力白费。这里我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。2. 大模型经典PDF书籍书籍和学习文档资料是学习大模型过程中必不可少的我们精选了一系列深入探讨大模型技术的书籍和学习文档它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。书籍含电子版PDF3. 大模型视频教程对于很多自学或者没有基础的同学来说书籍这些纯文字类的学习教材会觉得比较晦涩难以理解因此我们提供了丰富的大模型视频教程以动态、形象的方式展示技术概念帮助你更快、更轻松地掌握核心知识。4. 2026行业报告行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5. 大模型项目实战学以致用当你的理论知识积累到一定程度就需要通过项目实战在实际操作中检验和巩固你所学到的知识同时为你找工作和职业发展打下坚实的基础。6. 大模型面试题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我们将提供精心整理的大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。7. 资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容