* LangChain4j中的会话记忆ChatMemory

news2026/5/22 12:47:26
在构建 AI 志愿填报顾问时一个很自然的期望是它能记住我们之前聊过什么而不是每次都像第一次见面一样。大模型本身是无状态的每次调用都是独立的要实现“记忆”唯一的方法就是把聊天历史连同新问题一起发给模型。LangChain4j 用一套简洁的抽象帮我们搞定了这件事从最基本的会话记忆到多用户隔离再到持久化存储让记忆能力变得健壮且透明。一、会话记忆的原理先搞清楚 LangChain4j 是怎么让大模型“记住”的用户发送消息“西北大学是211吗”给后端。后端将这条消息存入一个会话记忆存储对象然后把存储对象里的所有历史消息一起发给大模型。大模型根据完整的上下文生成回答比如“是的西北大学是211高校”。后端收到回答后再把这条回答也存进记忆存储对象然后才返回给用户。用户接着问“那它是985吗”这条消息再次存入记忆对象此时记忆对象里已有三轮对话全部发给大模型它就能根据之前的上下文推断出用户还在问西北大学。整个过程 LangChain4j 自动完成我们几乎不用写额外的代码。二、基础实现MessageWindowChatMemoryLangChain4j 提供了ChatMemory接口来抽象记忆存储核心方法就三个add(ChatMessage)添加一条消息messages()获取所有消息clear()清空记忆同时提供了MessageWindowChatMemory实现类它用一个固定大小的滑动窗口来保留最近的消息防止上下文过长。2.1 定义会话记忆 Bean注册一个MessageWindowChatMemory的Bean设置最大保留条数建议20条Bean public ChatMemory chatMemory() { return MessageWindowChatMemory.builder() .maxMessages(20) .build(); }为什么限制数量一是大模型有上下文窗口限制二是按 token 计费发得越多越贵。窗口大小是一个实用的折中。2.2 把记忆挂载到 AiService 上在AiService注解中通过chatMemory属性关联刚定义的 BeanAiService( wiringMode AiServiceWiringMode.EXPLICIT, chatModel openAiChatModel, streamingChatModel openAiStreamingChatModel, chatMemory chatMemory ) public interface ConsultantService { SystemMessage(fromResource system.txt) FluxString chat(String message); }启动后测试多轮对话就能看到上下文关联效果。但一个问题马上暴露出来所有用户共用同一个 ChatMemory张三问的学校会被李四的对话干扰这显然不行。补充如果使用AiService的默认 wiring 模式AUTO且容器中只有一个ChatMemoryBean部分版本可能会自动注入本文的版本就可以。但题中指定了wiringMode EXPLICIT并且需要严谨控制因此必须显式配置 2.2 才能生效。建议始终显式关联避免歧义。三、会话记忆隔离一个用户一个记忆隔离的核心思路是给每个会话一个唯一标识memoryIdLangChain4j 会为每个memoryId维护独立的ChatMemory实例。3.1 原理用户请求时携带memoryId比如session-123。LangChain4j 在一个内部容器中查找id为session-123的ChatMemory。如果没找到就通过ChatMemoryProvider创建一个新的ChatMemory并关联该 ID如果找到了直接复用。3.2 定义 ChatMemoryProvider不再需要单一的chatMemoryBean而是提供一个ChatMemoryProvider它负责按需创建新的ChatMemory对象并设置 ID。Bean public ChatMemoryProvider chatMemoryProvider() { return memoryId - MessageWindowChatMemory.builder() .id(memoryId) // 关键绑定唯一ID .maxMessages(20) .build(); }3.3 接口增加 MemoryId 参数在ConsultantService的chat方法上新增一个MemoryId参数同时因为现在有多个参数需用UserMessage明确哪个是用户输入public interface ConsultantService { SystemMessage(fromResource system.txt) FluxString streamChat(MemoryId String memoryId, UserMessage String message); }3.4 Controller 配合前端在调用/chat接口时带上memoryId一般由前端生成并维持Controller 直接透传RequestMapping(value /streamChat, produces MediaType.TEXT_EVENT_STREAM_VALUE) public FluxString chat(RequestParam(memoryId) String memoryId, RequestParam(message) String message) { return consultantService.streamChat(memoryId, message); }现在不同memoryId的对话完全隔离互不干扰。四、持久化重启也不失忆目前我们用MessageWindowChatMemory默认内置的SingleSlotChatMemoryStore它的底层是一个内存ArrayList服务重启记忆全丢。要解决这个问题需要把会话记录存到外部存储如 Redis。4.1 原理MessageWindowChatMemory的内部其实委托给一个ChatMemoryStore接口做实际的增删查public interface ChatMemoryStore { ListChatMessage getMessages(Object memoryId); void updateMessages(Object memoryId, ListChatMessage messages); void deleteMessages(Object memoryId); }我们只需要提供一个实现了该接口的 Redis 版本然后注入给MessageWindowChatMemory。4.2 准备 Redis 环境安装并启动 Redis本地用 Docker 一行命令docker run --name redis -d -p 6379:6379 redis引入依赖dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-data-redis/artifactId /dependency配置连接spring: data: redis: host: localhost port: 63794.3配置Redis配置类package com.langchan4jSpringBoot.config; import com.fasterxml.jackson.annotation.JsonAutoDetect; import com.fasterxml.jackson.annotation.JsonTypeInfo; import com.fasterxml.jackson.annotation.PropertyAccessor; import com.fasterxml.jackson.databind.DeserializationFeature; import com.fasterxml.jackson.databind.ObjectMapper; import com.fasterxml.jackson.databind.jsontype.impl.LaissezFaireSubTypeValidator; import org.springframework.beans.factory.annotation.Value; import org.springframework.cache.CacheManager; import org.springframework.cache.annotation.EnableCaching; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; import org.springframework.data.redis.cache.RedisCacheConfiguration; import org.springframework.data.redis.cache.RedisCacheManager; import org.springframework.data.redis.cache.RedisCacheWriter; import org.springframework.data.redis.connection.RedisConnectionFactory; import org.springframework.data.redis.core.RedisTemplate; import org.springframework.data.redis.serializer.*; import java.time.Duration; /** * Redis配置类 * 负责配置RedisTemplate序列化方式、缓存管理器以及自定义key前缀策略 */ Configuration EnableCaching public class RedisConfig { // 从配置文件中读取Redis key的统一前缀 Value(${spring.data.redis.key-prefix}) private String keyPrefix; /** * 配置RedisTemplate * - key使用带前缀的String序列化 * - value使用Jackson JSON序列化 */ Bean public RedisTemplateString, Object redisTemplate(RedisConnectionFactory factory) { RedisTemplateString, Object template new RedisTemplate(); template.setConnectionFactory(factory); // key采用带统一前缀的key序列化器 template.setKeySerializer(prefixRedisSerializer()); // hash的key也采用带统一前缀的key序列化器 template.setHashKeySerializer(prefixRedisSerializer()); // value序列化方式采用jackson template.setValueSerializer(valueSerializer()); // hash的value序列化方式采用jackson template.setHashValueSerializer(valueSerializer()); template.afterPropertiesSet(); return template; } /** * 配置Spring Cache缓存管理器 * - 使用非锁定的RedisCacheWriter * - 自定义缓存key前缀拼接规则 * - value采用Jackson JSON序列化 * - 默认永不过期 */ Bean public CacheManager cacheManager(RedisConnectionFactory redisConnectionFactory) { RedisCacheWriter redisCacheWriter RedisCacheWriter.nonLockingRedisCacheWriter(redisConnectionFactory); RedisCacheConfiguration redisCacheConfiguration RedisCacheConfiguration.defaultCacheConfig() .computePrefixWith(name - { if (name.endsWith(:)) { return keyPrefix.concat(:).concat(name); } return keyPrefix.concat(:).concat(name).concat(:); }) .serializeValuesWith(RedisSerializationContext.SerializationPair.fromSerializer(valueSerializer())); redisCacheConfiguration.serializeKeysWith(RedisSerializationContext.SerializationPair.fromSerializer(new StringRedisSerializer())); //过期时间设置为 Duration#ZERO永远不过期 redisCacheConfiguration.entryTtl(Duration.ZERO); return new RedisCacheManager(redisCacheWriter, redisCacheConfiguration); } /** * 创建带统一前缀的key序列化器 */ private RedisSerializerString prefixRedisSerializer() { return new PrefixRedisSerializer(keyPrefix :); } /** * 自定义前缀序列化器 * 在序列化时自动为key添加前缀实现多应用共用Redis时的命名空间隔离 */ static class PrefixRedisSerializer implements RedisSerializerString { /** * 委托给默认的String序列化器处理实际的字节转换 */ private final RedisSerializerString delegate RedisSerializer.string(); /** * key前缀如 app: */ private final String prefix; public PrefixRedisSerializer(String prefix) { this.prefix prefix; } Override public byte[] serialize(String s) throws SerializationException { return delegate.serialize(prefix s); } Override public String deserialize(byte[] bytes) throws SerializationException { return delegate.deserialize(bytes); } } /** * 使用Jackson序列化器 * * return */ private RedisSerializerObject valueSerializer() { ObjectMapper objectMapper new ObjectMapper(); objectMapper.setVisibility(PropertyAccessor.ALL, JsonAutoDetect.Visibility.ANY); objectMapper.activateDefaultTyping(LaissezFaireSubTypeValidator.instance, ObjectMapper.DefaultTyping.NON_FINAL, JsonTypeInfo.As.PROPERTY); objectMapper.configure(DeserializationFeature.FAIL_ON_UNKNOWN_PROPERTIES, false); return new GenericJackson2JsonRedisSerializer(objectMapper); } }4.4实现 RedisChatMemoryStorepackage com.langchan4jSpringBoot.repository; import dev.langchain4j.data.message.ChatMessage; import dev.langchain4j.data.message.ChatMessageDeserializer; import dev.langchain4j.data.message.ChatMessageSerializer; import dev.langchain4j.store.memory.chat.ChatMemoryStore; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.data.redis.core.StringRedisTemplate; import org.springframework.stereotype.Repository; import java.util.List; import java.util.concurrent.TimeUnit; Repository public class RedisChatMemoryStore implements ChatMemoryStore { /** * Redis key前缀完整key格式为 chat:memory:{conversationId} */ private static final String KEY_PREFIX chat:memory:; /** * 会话记录过期天数 */ private static final int TTL_DAYS 3; Autowired private StringRedisTemplate stringRedisTemplate; Override public ListChatMessage getMessages(Object memoryId) { String json stringRedisTemplate.opsForValue().get(KEY_PREFIX memoryId); return ChatMessageDeserializer.messagesFromJson(json); } Override public void updateMessages(Object memoryId, ListChatMessage list) { String json ChatMessageSerializer.messagesToJson(list); stringRedisTemplate.opsForValue().set(KEY_PREFIX memoryId, json, TTL_DAYS, TimeUnit.DAYS); } Override public void deleteMessages(Object memoryId) { stringRedisTemplate.delete(KEY_PREFIX memoryId); } }序列化/反序列化直接使用 LangChain4j 自带的ChatMessageSerializer/ChatMessageDeserializer非常方便。4.5 将 Redis Store 注入 ChatMemoryProviderAutowired private ChatMemoryStore redisChatMemoryStore; Bean public ChatMemoryProvider chatMemoryProvider() { return memoryId - MessageWindowChatMemory.builder() .id(memoryId) .maxMessages(20) .chatMemoryStore(redisChatMemoryStore) // 使用 Redis 持久化 .build(); }现在即使服务重启只要 Redis 还在对话记忆就不会丢失。还可以通过设置过期时间如Duration.ofDays(1)实现自动清理。五、总结从无记忆到带隔离的持久化记忆我们层层递进地解决了会话记忆的核心问题需求实现方式关键配置基础记忆MessageWindowChatMemorychatMemory chatMemory多用户隔离ChatMemoryProviderMemoryIdchatMemoryProvider chatMemoryProvider持久化存储自定义ChatMemoryStoreRedis.chatMemoryStore(redisChatMemoryStore)LangChain4j 把记忆管理彻底从业务代码中抽离我们只需要在接口层面做声明就能获得完整的多轮对话能力。接下来再结合 RAG 知识库我们的 AI 志愿填报顾问就能既“记得住”又“懂得新”真正成为一个靠谱的助手。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2634784.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…