理论基础LLM 对话原理大语言模型的对话基于自回归生成原理模型根据已生成的内容预测下一个 token循环往复直到完成回复。输入你好 → 模型 → 你 → 好 → → 有 → 什 → 么 → 可 → 以 → 帮 → 你 → 对话模式模式说明适用场景单次对话一问一答无上下文简单查询多轮对话保留历史上下文连贯复杂任务、客服、连续问答流式对话逐字输出实时显示提升用户体验系统提示词设定 AI 角色和行为专业场景、角色扮演Prompt 结构┌─────────────────────┐ │ System: 角色设定 │ ← 定义 AI 的行为和边界 ├─────────────────────┤ │ User: 用户问题 │ ← 当前输入 ├─────────────────────┤ │ History: 对话历史 │ ← 之前的问答多轮对话 └─────────────────────┘关键参数Temperature控制随机性0确定1随机Max Tokens限制输出长度Top-P采样策略控制多样性2.1 功能概述本章实现以下核心功能✅ 已实现功能清单功能接口路径状态基础单次对话POST /api/ai/demo✅增强对话POST /api/ai/chat✅系统提示词对话POST /api/ai/chat/system✅预设角色对话POST /api/ai/chat/role/{role}✅多轮对话 - 开始会话POST /api/ai/conversation/start✅多轮对话 - 继续会话POST /api/ai/conversation/continue✅多轮对话 - 查看会话GET /api/ai/conversation/{sessionId}✅多轮对话 - 删除会话DELETE /api/ai/conversation/{sessionId}✅技术特点✅本地缓存使用ConcurrentHashMap存储会话历史内存级快速访问✅线程安全支持并发请求✅完整上下文保留 System/User/Assistant 完整消息历史✅会话管理支持创建、继续、查看、删除会话⚠️注意本地缓存适用于开发和测试环境。生产环境建议使用 Redis见后续章节。2.2 API 接口总览Controller1 个Controller基础路径功能ChatController/api/ai基础对话完整接口列表接口方法说明/api/ai/chatPOST基础对话/api/ai/chat/systemPOST带系统提示词的对话/api/ai/chat/role/{role}POST预设角色对话/api/ai/conversation/startPOST多轮对话 - 开始新会话/api/ai/conversation/continuePOST多轮对话 - 继续会话/api/ai/conversation/{sessionId}GET多轮对话 - 查看会话状态/api/ai/conversation/{sessionId}DELETE多轮对话 - 删除会话2.3 代码实现/** * Spring AI 基础对话功能 Controller * 实现阻塞式对话、系统提示词、多轮对话 * * author Joe.Ye * blog https://www.appblog.cn */RestControllerRequestMapping(/api/ai)publicclassChatController{privatestaticfinalLoggerlogLoggerFactory.getLogger(ChatController.class);privatefinalChatClientchatClient;// 内存存储会话历史生产环境建议用 RedisprivatefinalMapString,ListMessageconversationsnewConcurrentHashMap();publicChatController(ChatClientchatClient){this.chatClientchatClient;}/** * 1. 基础阻塞式对话 * POST /api/ai/chat */PostMapping(/chat)publicChatResponsechat(RequestBodyChatRequestrequest){log.info(【基础对话】收到请求{},request.getMessage());StringresponsechatClient.prompt().user(request.getMessage()).call().content();log.info(【基础对话】AI 响应{},response);returnnewChatResponse(response,qwen3.5-plus,Instant.now().toEpochMilli());}/** * 2. 带系统提示词的对话 * POST /api/ai/chat/system */PostMapping(/chat/system)publicChatResponsechatWithSystem(RequestBodySystemChatRequestrequest){log.info(【系统提示词】角色{}, 请求{},request.getSystemPrompt(),request.getMessage());StringresponsechatClient.prompt().system(request.getSystemPrompt()).user(request.getMessage()).call().content();log.info(【系统提示词】AI 响应{},response);returnnewChatResponse(response,qwen3.5-plus,Instant.now().toEpochMilli());}/** * 3. 多轮对话 - 开始新会话 * POST /api/ai/conversation/start */PostMapping(/conversation/start)publicConversationResponsestartConversation(RequestBodySystemChatRequestrequest){StringsessionIdsession_System.currentTimeMillis();ListMessagehistorynewArrayList();// 添加系统提示词可选if(request.getSystemPrompt()!null!request.getSystemPrompt().isEmpty()){history.add(newSystemMessage(request.getSystemPrompt()));}// 添加用户消息history.add(newUserMessage(request.getMessage()));// 调用 AIStringresponsechatClient.prompt().messages(history).call().content();// 保存 AI 响应到历史history.add(newAssistantMessage(response));// 存储会话conversations.put(sessionId,history);log.info(【多轮对话】创建会话{}, 消息数{},sessionId,history.size());returnnewConversationResponse(sessionId,response,history.size());}/** * 4. 多轮对话 - 继续会话 * POST /api/ai/conversation/continue */PostMapping(/conversation/continue)publicConversationResponsecontinueConversation(RequestBodyContinueChatRequestrequest){StringsessionIdrequest.getSessionId();StringuserMessagerequest.getMessage();// 获取会话历史ListMessagehistoryconversations.get(sessionId);if(historynull){returnnewConversationResponse(null,会话不存在或已过期,0);}// 添加用户消息history.add(newUserMessage(userMessage));log.info(【多轮对话】会话{}, 当前消息数{},sessionId,history.size());// 调用 AI发送完整历史StringresponsechatClient.prompt().messages(history).call().content();// 保存 AI 响应到历史history.add(newAssistantMessage(response));// 更新会话conversations.put(sessionId,history);log.info(【多轮对话】会话{}, 更新后消息数{},sessionId,history.size());returnnewConversationResponse(sessionId,response,history.size());}/** * 5. 多轮对话 - 查看会话历史简化版 * GET /api/ai/conversation/{sessionId} */GetMapping(/conversation/{sessionId})publicMapString,ObjectgetConversation(PathVariableStringsessionId){ListMessagehistoryconversations.get(sessionId);if(historynull){returnMap.of(sessionId,sessionId,exists,false,status,会话不存在,messageCount,0);}returnMap.of(sessionId,sessionId,exists,true,status,获取成功,messageCount,history.size());}/** * 6. 多轮对话 - 删除会话 * DELETE /api/ai/conversation/{sessionId} */DeleteMapping(/conversation/{sessionId})publicChatResponsedeleteConversation(PathVariableStringsessionId){ListMessageremovedconversations.remove(sessionId);if(removednull){returnnewChatResponse(会话不存在,system,Instant.now().toEpochMilli());}log.info(【多轮对话】删除会话{}, 消息数{},sessionId,removed.size());returnnewChatResponse(会话已删除,system,Instant.now().toEpochMilli());}/** * 7. 预设角色对话快捷方式 * POST /api/ai/chat/role/{role} */PostMapping(/chat/role/{role})publicChatResponsechatWithRole(PathVariableStringrole,RequestBodyChatRequestrequest){StringsystemPromptgetSystemPromptByRole(role);log.info(【角色对话】角色{}, 请求{},role,request.getMessage());StringresponsechatClient.prompt().system(systemPrompt).user(request.getMessage()).call().content();returnnewChatResponse(response,qwen3.5-plus,Instant.now().toEpochMilli());}/** * 获取预设角色的系统提示词 */privateStringgetSystemPromptByRole(Stringrole){returnswitch(role.toLowerCase()){casejava-你是一个专业的 Java 开发工程师精通 Spring Boot、微服务、设计模式等技术。请用专业但易懂的方式回答问题。;casepython-你是一个 Python 专家熟悉数据分析、机器学习、Web 开发等领域。请提供简洁实用的代码示例。;caseenglish-You are an English teacher. Please communicate in English and help the user improve their English skills.;casetranslator-你是一个专业翻译精通中英文互译。请准确翻译用户的内容保持原文的语气和风格。;caseinterviewer-你是一个技术面试官正在面试 Java 开发工程师。请提出专业的问题并评估候选人的回答。;default-你是一个有帮助的 AI 助手。请友好、专业地回答用户的问题。;};}}2.4 接口测试测试 1基础对话接口接口POST /api/ai/chat请求curl-XPOST http://localhost:8080/api/ai/chat\-HContent-Type: application/json\-d{message: 你好你是什么模型}响应{message:你好我是通义千问Qwen是阿里巴巴集团旗下的超大规模语言模型。我能够回答问题、创作文字比如写故事、写公文、写邮件、写剧本、逻辑推理、编程等等还能表达观点玩游戏等。如果你有任何问题或需要帮助欢迎随时告诉我,model:qwen3.5-plus,timestamp:1774178394170}测试 2系统提示词对话接口POST /api/ai/chat/system请求curl-XPOST http://localhost:8080/api/ai/chat/system\-HContent-Type: application/json\-d{ systemPrompt: 你是一个专业的 Java 开发工程师, message: 什么是 Spring Boot }响应{message:Spring Boot 是一个用于创建独立、生产级的 Spring 应用程序的框架...,model:qwen3.5-plus,timestamp:1774178525190}测试 3预设角色对话接口POST /api/ai/chat/role/java请求curl-XPOST http://localhost:8080/api/ai/chat/role/java\-HContent-Type: application/json\-d{message: 解释一下单例模式}响应{message:单例模式Singleton Pattern是**最经典、最常用的设计模式之一**属于**创建型模式**。它的核心目标是...,model:qwen3.5-plus,timestamp:1774178849495}可用角色角色路径参数说明Java 专家javaSpring Boot、微服务、设计模式Python 专家python数据分析、机器学习、Web 开发英语老师english英语教学对话专业翻译translator中英文互译技术面试官interviewerJava 技术面试测试 4多轮对话 - 开始会话接口POST /api/ai/conversation/start请求curl-XPOST http://localhost:8080/api/ai/conversation/start\-HContent-Type: application/json\-d{ systemPrompt: 你是一个有帮助的助手, message: 我叫小明今年 25 岁 }响应{sessionId:session_1774179022883,message:你好小明很高兴认识你25岁正是充满活力和可能性的年纪可能正在事业起步、探索兴趣或者在生活里积累更多属于自己的故事 \n如果你愿意分享我很乐意听听 \n- 你最近在忙什么工作、学习、爱好或者一件让你开心的小事 \n- 有没有什么想尝试但还没开始的事情 \n- 或者今天有什么问题、困惑、想法想一起聊聊 \n\n我在这儿认真听也尽力帮上忙 ,messageCount:3}⚠️重要请保存返回的sessionId后续对话需要使用测试 5多轮对话 - 继续会话接口POST /api/ai/conversation/continue请求curl-XPOST http://localhost:8080/api/ai/conversation/continue\-HContent-Type: application/json\-d{ sessionId: session_1774179022883, message: 你知道我今年多少岁吗 }响应{sessionId:session_1774179022883,message:知道哦你刚才自我介绍时说“我叫小明今年25岁” \n所以——小明你今年 **25岁**✨ \n顺便夸一句这个年纪既有青春的冲劲又开始沉淀自己的节奏真的很棒 \n需要帮你规划点什么吗比如职业方向、学习计划、健康习惯或者只是想聊聊生活里的小确幸我随时在,messageCount:5}✅多轮对话成功AI 记住了之前的对话内容测试 6查看会话状态接口GET /api/ai/conversation/{sessionId}请求curlhttp://localhost:8080/api/ai/conversation/session_1774179022883响应{exists:true,status:获取成功,sessionId:session_1774179022883,messageCount:5}测试 7删除会话接口DELETE /api/ai/conversation/{sessionId}请求curl-XDELETE http://localhost:8080/api/ai/conversation/session_1774179022883响应{message:会话已删除,model:system,timestamp:1774185402797}2.5 多轮对话工作流程┌──────────────┐ ┌──────────────┐ ┌──────────────┐ │ 用户请求 │ │ 继续对话 │ │ 继续对话 │ │ 我叫小明 │────▶│ 我多大了 │────▶│ 记住我的名字│ └──────────────┘ └──────────────┘ └──────────────┘ │ │ │ ▼ ▼ ▼ ┌──────────────┐ ┌──────────────┐ ┌──────────────┐ │ start │ │ continue │ │ continue │ │ sessionIdA │ │ sessionIdA │ │ sessionIdA │ └──────────────┘ └──────────────┘ └──────────────┘ │ │ │ ▼ ▼ ▼ ┌──────────────┐ ┌──────────────┐ ┌──────────────┐ │ 保存历史 │ │ 读取历史 │ │ 读取历史 │ │ [S,U,A] │ │ [S,U,A,U,A] │ │ [S,U,A,U,A,U,A]│ └──────────────┘ └──────────────┘ └──────────────┘ │ │ │ ▼ ▼ ▼ ┌──────────────┐ ┌──────────────┐ ┌──────────────┐ │ AI: 你好小明 │ │ AI: 你 25 岁 │ │ AI: 记住了 │ └──────────────┘ └──────────────┘ └──────────────┘消息历史结构Session: session_1774179022883 ├── SystemMessage: 你是一个有帮助的助手 ├── UserMessage: 我叫小明今年 25 岁 ├── AssistantMessage: 你好小明... ├── UserMessage: 你知道我今年多少岁吗 └── AssistantMessage: 你刚才告诉我你今年 25 岁呀2.6 本地缓存 vs Redis 缓存特性本地缓存ConcurrentHashMapRedis 缓存速度极快内存访问快网络 内存持久化❌ 重启丢失✅ 可选持久化分布式❌ 单机✅ 支持集群TTL 过期❌ 需手动实现✅ 原生支持适用场景开发、测试、单机应用生产环境、分布式系统复杂度低中选择建议开发/测试→ 使用本地缓存本章生产环境→ 使用 Redis见第 05 章分布式部署→ 必须使用 Redis2.7 注意事项⚠️ 本地缓存的限制重启丢失应用重启后所有会话历史清空内存占用大量会话会占用 JVM 内存无法共享多实例部署时会话无法跨实例访问✅ 最佳实践开发环境本地缓存足够简单快速会话清理定期清理长时间未使用的会话消息数限制建议限制单会话消息数如 50 条避免上下文过长生产升级上线前迁移到 Redis2.8 本章总结✅ 完成功能功能状态基础单次对话✅系统提示词对话✅预设角色对话✅多轮对话本地缓存✅会话管理CRUD✅ 关键知识点ConcurrentHashMap实现线程安全的本地缓存Message 类型SystemMessage、UserMessage、AssistantMessage会话管理sessionId 作为会话标识上下文传递完整历史发送给 AI 模型