直到上周一个学员面试的经历让我觉得必须补上这篇了Query 理解与路由。面试官问他“用户在你们系统里输入’帮我算一下 A 款保险的理赔金额’你的系统怎么处理的”他说“先做 Embedding然后去向量库里检索相关文档再把文档和问题一起给 LLM 生成回答。”面试官脸色一变“这个 query 明明是要算数你去知识库里检索什么检索出来的是理赔政策条款又不是计算器。你的系统不做意图识别吗不同类型的 query 走不同的链路吗”他说没有所有 query 都走同一条检索链路。面试官追问“那如果用户问’昨天的那个理赔案例进展怎样了’你怎么处理’昨天’这个时间约束直接用语义检索能处理时间过滤吗”又卡住了。这个场景暴露的是 RAG 系统中一个很多人忽略的模块——在用户 query 进入检索之前系统应该先读懂这个 query然后决定走什么路。不是所有问题都该去向量库里搜有些要走计算模块有些要走数据库查询有些要加时间过滤有些甚至应该直接拒答。这个调度员角色就是 Query 理解与路由模块。一、为什么不能所有 query 都走同一条路在我们训练营的金融保险实战项目里用户的问题类型非常杂有的是事实型查询——“A 款保险的保障范围是什么”这种直接去知识库检索就行。有的是计算型查询——“我投保了 50 万免赔额 5000这次理赔能拿多少”这种需要路由到计算模块而不是检索。有的是数据库查询——“上个月理赔审批的平均时长是多少天”这种需要走 NL2SQL把自然语言转成数据库查询语句。有的是带时间约束的查询——“最新的车险理赔流程是什么”这种虽然走检索但需要加时间过滤。有的是闲聊——“今天天气怎么样”这种根本不该进 RAG 流程。如果你把所有 query 都一股脑丢进向量检索会出现两种尴尬情况一是该算的不算计算题去检索文档拿回来的是理赔政策而不是计算结果二是该过滤的不过滤要最新流程却召回了旧版本因为语义检索不理解最新这个约束。二、意图识别三种方案各有所长意图识别是 Query 理解的第一步——判断用户这个问题属于什么类型然后决定后续走什么链路。方案一基于规则最简单直接的方式。维护一套关键词映射表query 里出现计算“算一下”“多少钱就路由到计算模块出现报销”“流程”“怎么办就走知识库检索出现统计”“平均”占比就走数据库查询。def classify_intent_rule(query: str) - str: intent_keywords { 计算求解: [计算, 算一下, 多少钱, 怎么算], 报销流程查询: [报销, 流程, 怎么办, 步骤], 数据统计: [统计, 平均, 占比, 趋势], } for intent, keywords in intent_keywords.items(): if any(kw in query for kw in keywords): return intent return 通用问答 # 兜底走默认检索优点是快、可控、没有额外的模型调用开销。缺点是覆盖不全——用户换一种说法你就匹配不上了需要持续人工维护关键词库。方案二基于 ML 模型用 BERT 等模型训练一个轻量级分类器。先收集各种意图类别的样本数据标注后做 fine-tune模型就能根据语义而不仅仅是关键词来判断意图。比规则方案鲁棒性好很多——用户说这笔理赔大概能拿到手多少虽然没出现计算这个词但模型能理解这是计算求解类意图。缺点是需要标注数据训练而且模型推理有额外延迟虽然很小几十毫秒级别。方案三基于 LLM Prompt直接用大模型做 zero-shot 分类。设计一个 Prompt让 LLM 判断 query 属于哪个意图类别system_prompt 你是一个意图分类助手。请判断用户问题属于以下哪个类别1. 知识问答需要从知识库检索2. 计算求解需要数值计算3. 数据查询需要查数据库4. 闲聊与业务无关只回复数字编号。不需要训练数据上线最快。但代价是每次都要调一次 LLM延迟和成本都不低。而且 LLM 偶尔会判断错稳定性不如训练好的分类模型。实战中怎么选在我们的项目中用的是三级组合规则优先 → ML 模型兜底 → LLM 处理疑难。明显能用关键词命中的占大多数直接走规则零延迟。规则匹配不上的走 ML 分类器几十毫秒解决。ML 分类器信心度低的比如 softmax 概率最高的类别只有 0.4才调 LLM 做最终判断。这样既保证了速度大部分 query 走规则几乎不耗时又保证了准确率疑难 case 有 LLM 兜底还控制了成本只有少量 query 需要调 LLM。三、实体提取从 query 里挖出隐藏信息意图识别解决了走什么路的问题但光知道意图还不够。很多 query 里藏着关键约束条件不把它们提取出来检索就会漏洞百出。举个实战中的例子。用户问“昨天《独家新闻》统计的化学制品行业关注度排名第几”这个 query 里至少包含四个关键实体时间“昨天”、来源“独家新闻”、行业“化学制品”、查询目标“关注度排名”。如果你不做实体提取直接拿整句话去向量检索得到的结果可能是关于化学制品行业的泛泛介绍而不是昨天《独家新闻》的那篇具体报道。但如果你提取出了时间约束昨天检索时就可以在元数据层面加时间过滤提取出来源独家新闻就可以限定文档来源。实体提取的技术实现可以用 NLP 方法分词 NER 命名实体识别也可以用正则表达式识别日期、数字等常见模式还可以直接让 LLM 从 query 中结构化地抽取实体。工业界通常是正则和 NER 模型结合使用对于日期时间这类有固定格式的实体用正则又快又准对于行业名、人名等开放性实体用 NER 模型。四、检索路由把 query 送到正确的地方意图识别和实体提取完成后就进入路由决策——根据解析结果把 query 送到最合适的处理链路。在我们的实战项目中路由逻辑大致如下意图“知识问答”→ 走默认的向量检索 BM25 混合检索链路。如果提取到了时间实体加时间过滤如果提取到了文档来源限定来源范围。意图“计算求解”→ 跳过检索直接路由到计算模块。先从 query 中提取数值参数保额、免赔额等然后调用预定义的计算函数或让 LLM 做数学推理。意图“数据查询”→ 路由到 NL2SQL 模块把自然语言转成 SQL 查询从数据库中拉取结构化数据。意图“闲聊”→ 不走 RAG 流程直接让 LLM 以通用对话模式回答或者礼貌地引导用户回到业务话题。一个很实用的进阶策略是多索引路由。如果你的知识库按主题分成了多个索引比如理赔制度“销售策略”产品信息各一个索引意图识别后可以根据 query 的主题选择对应索引检索而不是在全库里搜。这样既提高了检索精度又减少了计算量。五、避坑指南过度解析比不解析更危险Query 理解模块有一个反直觉的坑——做过头了反而更差。如果你的意图分类器把一个本该走检索的 query 错误地路由到了计算模块用户就完全拿不到想要的答案。这比不做意图识别、直接走检索还要糟糕——至少走检索还有可能碰巧命中。所以有一个关键原则分类器信心度不够时宁可保守走默认检索也不要冒险路由到错误的链路。一个更稳妥的策略是多路径并行既检索原始 query也检索改写后的 query最终合并结果。这样即使改写或路由判断有误原始路径还能兜底。代价是计算量翻倍但对于准确性要求高的场景来说这个代价是值得的。另外路由决策也需要有回退机制。如果计算模块返回的结果明显异常比如理赔金额算出了负数或者 NL2SQL 生成的 SQL 执行报错系统应该自动回退到默认检索链路重新处理而不是把错误结果直接返回给用户。面试中怎么聊 Query 理解如果面试官问你的 RAG 系统怎么处理不同类型的 query或者意图识别怎么做的可以这样组织先讲为什么需要这个模块。不同类型的 query 需要走不同链路——事实型走检索计算型走计算模块数据型走 NL2SQL。不做区分就会出现该算的去搜、该搜的去算的混乱。再讲三级识别方案。规则优先处理大部分明确 queryML 模型兜底处理规则覆盖不了的LLM 处理少量疑难 case。三级组合兼顾速度、准确率和成本。然后讲实体提取和路由。从 query 中提取时间、来源等约束实体用于检索时的元数据过滤。路由决策根据意图类型把 query 送到对应处理链路同时支持多索引路由提高精度。最后讲安全策略。分类器信心度不够时保守走默认检索支持多路径并行和路由回退避免误判导致用户体验崩盘。写在最后Query 理解模块在很多 RAG 教程里是被跳过的——大家都急着讲检索和生成觉得 query 进来直接搜就行了。但在真实的生产系统里用户的问题千奇百怪不做意图识别和路由就是在碰运气。这个模块的价值在面试中也越来越被重视。因为它考验的不只是技术实现而是你对 RAG 系统的全局设计能力——你是否意识到不同 query 需要不同处理你是否考虑过路由错误的兜底方案你是否在速度和准确率之间做了合理的权衡。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】