基于SpringAI开发的通用RAG脚手框架,适配各种场景

news2026/5/16 1:48:31
RAG 业务落地开发指导本文面向后续把这套 RAG 能力接入业务系统的开发者重点回答三件事上游业务请求怎么进入 RAG。RAG 内部各组件怎么串起来。数据分别存到 MySQL、文件存储、向量库和搜索引擎的哪里。1. 总体边界独立工程保留的是一套完整 RAG 子系统不是简单 demo。业务系统 - RAG HTTP/API 层 - 模型/存储/知识库配置 - 文档入库 pipeline - 检索 pipeline - QA prompt 模型调用代码入口src/main/java/com/aizuda/snail/ai/ragforge/controller/RagForgeController.java这个 controller 只负责暴露接口和参数转换。真正可复用的业务边界在这些类RagDocumentService 接收文件/URL做去重、资源存储、文档元数据入库 DocumentPipeline 解析、切片、写 chunk、写向量库、写搜索引擎 RagSearchService 检索总入口 RagSearchPipeline 检索流水线编排 RagQAService 检索后拼 Prompt 并调用 Chat 模型 KnowledgeService 知识库配置管理 ModelFactory Chat / Embedding / Rerank 模型工厂 VectorStoreFactory 向量库工厂 SearchEngineFactory 搜索引擎工厂 ResourceService 原始文件存储2. 配置链路业务落地前要先准备四类配置。模型提供商 - 模型配置 - 存储实例 - 知识库2.1 模型提供商表snail_ai_model_provider作用记录提供商如 OpenAI、Ollama、Gemini 或内部兼容 OpenAI 协议的服务。关键字段id 提供商 ID provider_name 展示名称 provider_key 代码识别用 key如 openai is_enabled 是否启用2.2 模型配置表snail_ai_model_config作用记录具体模型实例。RAG 至少需要EMBEDDING 文档入库写向量、向量检索时使用 CHAT QA 阶段生成答案时使用 RERANKER 可选检索后重排时使用关键字段id 模型配置 ID业务配置里引用它 provider_id 所属提供商 model_key 真实模型名如 text-embedding-3-small model_type CHAT / EMBEDDING / RERANKER api_key 加密后的 key api_endpoint 模型服务地址 config_json 模型扩展参数如 dimensions、temperature、timeoutMs代码读取路径ModelFactory.getModel(modelConfigId) - ModelConfigHandler.getConfigInfo - snail_ai_model_config - 具体模型实现2.3 存储实例表snail_ai_store_instance作用把外部向量库和搜索引擎的连接信息配置化不写死在代码里。关键字段id 存储实例 ID category 1向量库2搜索引擎 type 1PG_VECTOR2MILVUS3ELASTICSEARCH4PG_FULLTEXT config 连接参数 JSON status 是否启用 is_default 是否默认向量库由VectorStoreFactory读取snail_ai_rag.vector_store_instance_id - snail_ai_store_instance.config - PGVector / Milvus / Elasticsearch 向量适配器搜索引擎由SearchEngineFactory读取snail_ai_rag.search_engine_instance_id - snail_ai_store_instance.config - Elasticsearch BM25 适配器2.4 知识库配置表snail_ai_rag作用这是 RAG 的主配置表后续所有入库和检索都以ragId为主线。关键字段id 知识库 ID也就是接口里的 ragId name 知识库名称 embedding_model_id 入库和向量检索使用的 Embedding 模型 rerank_model_id 默认 Rerank 模型 vector_store_instance_id 向量库存储实例 search_engine_enable 是否启用 BM25 搜索引擎 search_engine_instance_id 搜索引擎实例 config 切片、检索、问答参数 JSON dedup_strategy 文档去重策略 dedup_action 命中去重后的动作 upload_confirm 上传前是否二次确认config对应代码src/main/java/com/aizuda/snail/ai/persistence/rag/dataobject/RagConfigDO.java结构chunkParams 切片参数mode、maxChunkTokens、chunkOverlap、regex、smart 模型等 searchParams 检索参数resultCount、rerankEnabled、denseWeight、rrfK、threshold 等 modelParams QA 参数modelId、nearbySliceCount、prompt3. 文档入库上下游串联入口POST /demo/rag/document/upload-and-process POST /demo/rag/document/import-url-and-process业务上游只需要提供ragId 写入哪个知识库 file/url 文档来源 可选去重参数 dedupStrategy / dedupAction完整调用链RagForgeController - RagDocumentService.upload / importFromUrl - DocumentImportFactory - ResourceService - snail_ai_resource - snail_ai_rag_document(PENDING) - DocumentPipeline.processDocument - ResourceService.load(resourceId) - DocumentParserFactory - DocumentChunkingService - snail_ai_rag_chunk - VectorStoreFactory - 外部向量库 index: rag_{ragId} - SearchEngineFactory - 外部搜索引擎 index: rag_{ragId} - snail_ai_rag_document.status SUCCESS / FAILED3.1 原始文件怎么存原始文件不直接塞到snail_ai_rag_document.content。存储路径ResourceService.upload - LOCAL 或 MINIO - snail_ai_resource - snail_ai_rag_document.resource_id核心表snail_ai_resourceid 资源 ID storage_key 本地相对路径或对象存储 key original_name 原始文件名 file_size 文件大小 mime_type MIME 类型 storage_type LOCAL / MINIO access_url 预览或访问 URL biz_type DOCUMENT biz_id ragId creator_id 上传人可为空3.2 文档元数据怎么存表snail_ai_rag_document一份上传文档对应一行。关键字段id documentId rag_id 所属知识库 name 文件名 file_type pdf/docx/xlsx/txt/md/html 等 source_type UPLOAD / URL status 0PENDING 1PARSING 2PROCESSING 3SUCCESS 4FAILED error_msg 失败原因 chunk_count 切片数量 content_hash 原始内容 SHA-256用于文档级去重 resource_id 指向 snail_ai_resource.id推荐业务用法上传后返回 documentId 业务系统保存 documentId 与自身业务单据的关系 前端或后台轮询 document.status 判断是否处理完成 失败时展示 error_msg 并允许重试 processDocument3.3 切片怎么存表snail_ai_rag_chunk一份文档会拆成多行 chunk。关键字段id chunkId rag_id 所属知识库 document_id 所属文档 paragraph_index 段落序号 chunk_index 文档内切片序号 content 切片文本 token_count 估算 token 数 vector_id 外部向量库里的向量 ID content_hash chunk 文本 SHA-256用于 chunk 级向量复用为什么 MySQL 还要存content向量库和搜索引擎负责召回不负责业务主数据。 最终展示、拼 Prompt、权限过滤、来源展示都应回到 MySQL chunk/document 做补全。3.4 向量怎么存向量不存 MySQL存外部向量库。索引命名rag_{ragId}代码IndexNameBuilder.KNOWLEDGE.build(Map.of(ragId, ragId))写入内容id vectorId对应 snail_ai_rag_chunk.vector_id content chunk 文本 metadata ragId、documentId、chunkId vector embedding 后的向量关系snail_ai_rag_chunk.id - metadata.chunkId snail_ai_rag_chunk.vector_id - 向量库 document/vector id3.5 搜索引擎怎么存搜索引擎用于 BM25/关键词召回。当前实现使用 Elasticsearch。索引命名同样是rag_{ragId}写入内容id chunkId content chunk 文本 metadata ragId、documentId、chunkId注意search_engine_enablefalse 时不会写搜索引擎也不会走 BM25。 业务对编号、术语、错误码召回敏感时建议开启 BM25。4. 检索上下游串联入口POST /demo/rag/search请求{ragId:1,query:设备报警 E32 怎么处理,debug:true}完整调用链RagForgeController.search - RagSearchService.search - RagSearchPipeline - ConfigResolveHandler - QueryRewriteHandler - VectorSearchHandler - Bm25SearchHandler - HybridFusionHandler - RerankHandler - FinalizeHandler4.1 ConfigResolveHandler输入ragId读取snail_ai_rag snail_ai_rag.config输出到上下文knowledge searchParams modelParams query4.2 VectorSearchHandler读取knowledge.vector_store_instance_id knowledge.embedding_model_id searchParams.resultCount下游VectorStoreFactory - 外部向量库 rag_{ragId}输出vectorResults: ListSearchResult其中SearchResult.chunkId来自向量 metadata后面用于回查 MySQL。4.3 Bm25SearchHandler前提snail_ai_rag.search_engine_enable true读取knowledge.search_engine_instance_id searchParams.resultCount下游SearchEngineFactory - Elasticsearch rag_{ragId}输出bm25Results: ListSearchResult4.4 HybridFusionHandler作用融合向量召回和 BM25 召回。支持策略RRF 默认推荐按排名倒数融合比较稳定 WEIGHTED_SUM 按 denseWeight 做加权适合调参后固定业务场景配置来源snail_ai_rag.config.searchParams.fusionStrategy snail_ai_rag.config.searchParams.denseWeight snail_ai_rag.config.searchParams.rrfK4.5 RerankHandler作用用 Reranker 模型对融合后的候选重新排序。配置来源rerankEnabled rerankModelId enterRerankCount resultCount成本控制点只有前 enterRerankCount 个候选会送入 rerank。 最终只保留 resultCount 个结果。4.6 FinalizeHandler作用把召回结果变成可展示、可拼 Prompt 的最终结果。处理按 chunkId 回查 snail_ai_rag_chunk 按 documentId 回查 snail_ai_rag_document 补齐 content、documentName、documentId 按 nearbySliceCount 合并相邻切片 重排结果缓解 lost-in-the-middle5. 问答上下游串联入口POST /demo/rag/qa/stream完整调用链RagForgeController.qaStream - RagQAService.qaStream - snail_ai_rag.config.modelParams - RagSearchService.search - buildDocumentsText - buildSystemPrompt - ModelFactory.getModel(modelParams.modelId) - ChatModel.chatStreamModel - ResponseBodyEmitterPrompt 拼装规则modelParams.prompt 中必须保留 Documents RagQAService 会把检索结果拼成 documentsText然后替换 Documents示例请只根据以下参考资料回答用户问题。资料不足时明确说明不足不要编造。 Documents如果没有配置 prompt则默认使用请根据以下参考资料回答用户的问题 {documentsText}6. 最小落地表集docs/sql/snail_ai_schema.sql是从原项目带出的全量建表脚本里面包含 agent、memory、skill、openapi 等外围表。如果只落地 RAG最小核心表是snail_ai_model_provider snail_ai_model_config snail_ai_store_instance snail_ai_rag snail_ai_resource snail_ai_rag_document snail_ai_rag_chunk建议保留但不是 RAG 主链路强依赖snail_ai_user snail_ai_model_usage_stat可以裁剪的外围表snail_ai_agent* snail_ai_mcp_server snail_ai_skill* snail_ai_app snail_ai_client_node snail_ai_openapi_user memory 相关表如果裁剪表也要同步删除对应 mapper/PO 或限制 Spring 扫描范围否则 MyBatis/Spring 仍可能加载不需要的组件。7. 核心表关系snail_ai_model_provider 1 ---- N snail_ai_model_config snail_ai_store_instance 1 ---- N snail_ai_rag.vector_store_instance_id snail_ai_store_instance 1 ---- N snail_ai_rag.search_engine_instance_id snail_ai_model_config 1 ---- N snail_ai_rag.embedding_model_id snail_ai_model_config 1 ---- N snail_ai_rag.rerank_model_id snail_ai_model_config 1 ---- N snail_ai_rag.config.modelParams.modelId snail_ai_rag 1 ---- N snail_ai_rag_document snail_ai_rag_document 1 ---- N snail_ai_rag_chunk snail_ai_resource 1 ---- 1 snail_ai_rag_document.resource_id snail_ai_rag_chunk.vector_id ---- 外部向量库 rag_{ragId} snail_ai_rag_chunk.id ---- 外部搜索引擎 rag_{ragId} 文档 ID 或 metadata.chunkId当前 SQL 没有强制声明所有外键主要靠代码维护关系。这样便于迁移和清理外部索引但业务落地时要自己保证删除顺序。8. 写入一致性和失败处理文档状态0 PENDING 已创建文档行等待处理 1 PARSING 预留状态 2 PROCESSING 解析/切片/写外部索引中 3 SUCCESS 入库完成 4 FAILED 入库失败error_msg 保存原因写入顺序1. 原始文件写 Resource 2. 文档行写 RagDocumentPENDING 3. 解析文件 4. 切片 5. 写 RagChunk 6. 写向量库并回填 vector_id 7. 写搜索引擎 8. 更新 RagDocument 状态注意向量库写入失败会导致文档处理失败。 搜索引擎写入当前是非致命失败失败时向量检索仍可用但 BM25 召回会缺数据。 重跑同一 documentId 前会清理旧 chunk 和不再被引用的向量。业务落地建议上传接口只返回 documentId不要立即假设可检索。 前端轮询 document.status或后端加异步任务/消息通知。 失败时展示 error_msg并提供重新处理入口。9. 去重策略文档级去重字段snail_ai_rag_document.rag_id snail_ai_rag_document.name snail_ai_rag_document.content_hash策略0 NONE 不去重 1 BY_NAME 同库同名重复 2 BY_CONTENT 同库同内容重复 3 BY_NAME_OR_CONTENT 同名或同内容重复冲突动作0 REJECT 拒收并报错 1 SKIP 跳过本次上传返回旧文档 2 OVERWRITE 删除旧文档、chunk、向量和资源后重新入库Chunk 级去重snail_ai_rag_chunk.content_hash如果同一知识库里已有相同 chunk 且已有vector_id新 chunk 会复用旧vector_id避免重复 embedding。10. 业务系统接入建议10.1 上游业务对象和 ragId 的关系推荐业务侧建自己的关联表例如business_id rag_id document_id owner_id permission_scope created_atRAG 子系统只关心ragId/documentId/chunkId业务权限、租户、栏目、产品线建议放在业务侧或扩展 metadata。10.2 权限过滤放哪里可选位置上传前限制谁能写某个 ragId 检索前限制谁能查某个 ragId FinalizeHandler按 documentId/chunkId 做结果过滤 向量/搜索 metadata写入 tenantId、deptId、bizId 后在检索时过滤如果权限是强要求建议不要只在前端控制至少在 search/qa 入口和 FinalizeHandler 做后端校验。10.3 同步和异步当前 demo 的upload-and-process是同步处理方便学习完整链路。生产建议上传接口只写资源和文档行返回 documentId 后台任务异步调用 DocumentPipeline.processDocument(documentId) 查询接口根据 document.status 展示处理进度这样可以避免大文件解析、embedding、外部索引写入导致 HTTP 超时。10.4 业务可扩展点新增文件解析器 实现 DocumentParser并注册到 DocumentParserFactory 新增切片策略 实现 ChunkStrategy并接入 DocumentChunkingService 新增向量库 实现 SnailAiVectorStore并注册 VectorStoreFactory.REGISTER 新增搜索引擎 实现 SearchEngine并注册 SearchEngineFactory.REGISTER 新增模型提供商 实现 Chat/Embedding/Rerank 对应构建逻辑 检索后权限过滤 扩展 FinalizeHandler 答案引用格式 扩展 RagQAService.buildDocumentsText 或 buildSystemPrompt11. 落地检查清单上线前逐项确认MySQL 已执行核心表 SQL snail_ai_model_provider 已有提供商 snail_ai_model_config 已有 EMBEDDING/CHAT/RERANKER snail_ai_store_instance 已有向量库实例 需要 BM25 时已有搜索引擎实例 snail_ai_rag 已绑定 embeddingModelId/vectorStoreInstanceId/searchEngineInstanceId snail_ai_rag.config 已配置 searchParams/modelParams/chunkParams 原始文件存储 LOCAL/MINIO 可读写 向量库 rag_{ragId} 可写可查 搜索引擎 rag_{ragId} 可写可查 Prompt 模板保留 Documents 业务权限已在入口或 FinalizeHandler 处理本项目完整源码已上传至 Gitee需要的朋友可自行下载学习 源码地址https://gitee.com/ww_qq_22/ragforge

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2616720.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…