保姆级教程:Nanbeige 4.1-3B Streamlit WebUI的MySQL数据持久化配置
保姆级教程Nanbeige 4.1-3B Streamlit WebUI的MySQL数据持久化配置你是不是也遇到过这样的烦恼用Streamlit给Nanbeige大模型搭了个漂亮的对话界面每次聊得正开心结果一刷新页面或者重启应用之前的对话记录全没了。用户设置、聊天历史这些宝贵的数据就像写在沙滩上的字潮水一来就消失得无影无踪。这感觉就像辛辛苦苦搭了个房子结果发现地基是沙子做的一点安全感都没有。数据持久化就是给这个房子打上坚实的地基让每一次对话、每一个设置都能被稳稳地保存下来随时可以找回来。今天我就带你一步步搞定这件事。咱们不用那些复杂的云服务就用最经典、最可靠的MySQL数据库给Nanbeige 4.1-3B的Streamlit WebUI装上一个“记忆芯片”。整个过程就像拼乐高我会把每一步都拆解得清清楚楚保证你跟着做就能成功。1. 准备工作理清思路备好工具在动手敲代码之前咱们先花几分钟把整个事情想明白。数据持久化听起来高大上其实核心就三件事存什么、存哪里、怎么存。对于我们的对话应用来说主要需要保存两类数据对话历史谁说了什么话模型回了什么内容以及对话发生的时间。用户配置比如用户偏好的模型参数、对话风格、界面主题等个性化设置。“存哪里”我们选定了MySQL因为它免费、稳定、几乎每个开发者都会用。“怎么存”就是今天教程要解决的核心问题。你需要准备的东西很简单一台能运行Python的电脑Windows, Mac, Linux都行。一个你正在开发或准备开发的Nanbeige 4.1-3B Streamlit应用项目。一个好用的代码编辑器比如VSCode、PyCharm。一个放松的心情跟着步骤走遇到问题很正常解决掉就行。接下来咱们就从安装和配置MySQL开始。2. 第一步安装并配置MySQL数据库如果你的电脑上还没有MySQL别担心安装过程现在都很简单。这里我以最通用的方式为例。2.1 下载与安装MySQL访问MySQL官方网站的下载页面找到“MySQL Community Server”版本选择适合你操作系统的安装包。对于Windows用户推荐下载MySQL Installer它是个图形化工具能帮你把MySQL服务器、客户端工具一起装好。安装过程中会提示你设置root用户的密码。这个密码非常重要一定要记牢你可以先设一个简单的比如123456用于本机测试生产环境务必用强密码。安装完成后你可以打开命令行Windows的CMD或PowerShellMac/Linux的终端输入以下命令来检查MySQL服务是否运行并尝试登录# 检查MySQL服务状态Windows sc query mysql # 或者尝试登录所有系统通用回车后会提示输入密码 mysql -u root -p如果能看到MySQL的命令行提示符mysql恭喜你第一步成功了2.2 创建专属数据库和数据表登录MySQL后我们首先要为我们的Streamlit应用创建一个专用的数据库而不是直接用默认的。这样更清晰也便于管理。在mysql提示符下依次执行以下SQL命令-- 1. 创建一个名为 nanbeige_chat 的数据库并设置字符集为utf8mb4以支持中文和Emoji CREATE DATABASE nanbeige_chat CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci; -- 2. 使用这个新数据库 USE nanbeige_chat; -- 3. 创建 conversation_history 表用于存储对话记录 CREATE TABLE conversation_history ( id INT AUTO_INCREMENT PRIMARY KEY, -- 主键每条记录的唯一ID session_id VARCHAR(255) NOT NULL, -- 会话ID用于区分不同用户或不同浏览器会话 role ENUM(user, assistant) NOT NULL, -- 发言角色用户 或 AI助手 content TEXT NOT NULL, -- 对话内容 created_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP -- 记录创建时间自动填充 ); -- 4. 创建 user_settings 表用于存储用户配置这里只是一个基础示例 CREATE TABLE user_settings ( id INT AUTO_INCREMENT PRIMARY KEY, session_id VARCHAR(255) NOT NULL UNIQUE, -- 一个会话ID对应一套设置 model_params TEXT, -- 可以存储JSON字符串例如 {temperature: 0.7, max_tokens: 500} ui_theme VARCHAR(50) DEFAULT light, updated_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP ); -- 5. 查看一下我们创建的表 SHOW TABLES;执行完SHOW TABLES;后你应该能看到conversation_history和user_settings这两张表。好了数据库这边的“房子”我们已经盖好了接下来就是用PythonStreamlit来和这个“房子”打交道了。3. 第二步在Python项目中连接MySQL现在回到你的Streamlit项目目录。我们需要安装一个Python库来操作MySQL最常用的就是mysql-connector-python。3.1 安装必要的Python库打开你的终端进入项目目录运行pip install mysql-connector-python streamlit如果安装速度慢可以考虑使用国内镜像源比如清华源pip install -i https://pypi.tuna.tsinghua.edu.cn/simple mysql-connector-python streamlit。3.2 配置数据库连接信息直接在代码里写死数据库密码是坏习惯。我们创建一个配置文件比如叫config.py放在项目根目录下# config.py import os # 数据库配置 DB_CONFIG { host: localhost, # 如果你的MySQL不在本机就改成对应的IP地址 user: root, # 连接数据库的用户名 password: 123456, # 你安装时设置的root密码 database: nanbeige_chat, # 我们刚刚创建的数据库名 port: 3306, # MySQL默认端口 charset: utf8mb4, # 确保字符集一致 } # 你可以考虑从环境变量读取密码更安全 # DB_CONFIG[password] os.getenv(MYSQL_PASSWORD, 123456)3.3 创建数据库连接工具直接在每个函数里创建连接很低效。我们创建一个数据库工具模块db_utils.py使用连接池来管理连接性能更好。# db_utils.py import mysql.connector from mysql.connector import pooling import config # 创建连接池 db_pool pooling.MySQLConnectionPool( pool_namenanbeige_pool, pool_size5, # 连接池大小根据应用并发量调整 **config.DB_CONFIG ) def get_connection(): 从连接池获取一个数据库连接 return db_pool.get_connection() def init_db(): 初始化数据库可选用于首次运行检查表是否存在等 conn get_connection() cursor conn.cursor() # 这里可以放一些建表或检查的SQL如果表已由外部创建此函数可留空或简单查询 cursor.execute(SELECT 1) cursor.close() conn.close() print(Database connection test successful.) # 测试连接 if __name__ __main__: try: init_db() except Exception as e: print(fDatabase connection failed: {e})运行一下python db_utils.py如果输出“Database connection test successful.”说明Python已经成功连上你的MySQL数据库了万里长征走完了一大半。4. 第三步在Streamlit应用中集成数据操作核心工具准备好了现在我们要把它们“织”进Streamlit应用的血肉里。主要就是两个功能存对话和取对话。4.1 封装数据操作函数在db_utils.py里我们继续添加负责具体业务的函数。# db_utils.py (续) def save_message(session_id: str, role: str, content: str): 保存一条对话消息到数据库 conn get_connection() cursor conn.cursor() try: sql INSERT INTO conversation_history (session_id, role, content) VALUES (%s, %s, %s) cursor.execute(sql, (session_id, role, content)) conn.commit() except Exception as e: print(fError saving message: {e}) conn.rollback() finally: cursor.close() conn.close() def load_conversation(session_id: str, limit: int 50): 加载指定会话的最新对话历史 conn get_connection() cursor conn.cursor(dictionaryTrue) # 返回字典格式方便使用 conversation [] try: sql SELECT role, content, created_at FROM conversation_history WHERE session_id %s ORDER BY created_at ASC LIMIT %s cursor.execute(sql, (session_id, limit)) rows cursor.fetchall() conversation [{role: row[role], content: row[content]} for row in rows] except Exception as e: print(fError loading conversation: {e}) finally: cursor.close() conn.close() return conversation def save_user_setting(session_id: str, setting_key: str, setting_value: str): 保存或更新用户的一项设置简化示例实际可能用JSON存储所有设置 conn get_connection() cursor conn.cursor() try: # 这里采用先删除再插入的简单方式实际可根据user_settings表结构优化 # 假设我们把所有设置存为一个JSON字符串在model_params字段 sql INSERT INTO user_settings (session_id, model_params) VALUES (%s, %s) ON DUPLICATE KEY UPDATE model_params %s # 这里需要你先获取现有设置合并新值再存入。为简化我们先直接存一个值。 # 更优做法是设计专门的键值对表或使用JSON字段。 cursor.execute(sql, (session_id, setting_value, setting_value)) conn.commit() except Exception as e: print(fError saving setting: {e}) conn.rollback() finally: cursor.close() conn.close()4.2 改造你的Streamlit主应用假设你原来的主应用文件叫app.py它的核心可能是一个聊天循环。现在我们需要在关键位置插入数据存取的逻辑。# app.py import streamlit as st import db_utils # 初始化会话状态用于存储当前对话历史和会话ID if messages not in st.session_state: st.session_state.messages [] if session_id not in st.session_state: # 生成一个简单的会话ID实际中可以用更复杂的方法如用户ID时间戳 import uuid st.session_state.session_id str(uuid.uuid4()) # 首次运行时尝试从数据库加载该会话的历史记录如果存在 history db_utils.load_conversation(st.session_state.session_id) if history: st.session_state.messages history # 页面标题 st.title( Nanbeige 4.1-3B Chatbot) st.caption(f会话ID: {st.session_state.session_id}) # 显示历史消息 for message in st.session_state.messages: with st.chat_message(message[role]): st.markdown(message[content]) # 聊天输入框 if prompt : st.chat_input(你想和Nanbeige聊什么): # 1. 显示并保存用户消息 with st.chat_message(user): st.markdown(prompt) st.session_state.messages.append({role: user, content: prompt}) # **保存到数据库** db_utils.save_message(st.session_state.session_id, user, prompt) # 2. 调用模型生成回复这里用模拟回复代替实际模型调用 with st.chat_message(assistant): response f这是Nanbeige对『{prompt}』的模拟回复。在实际应用中这里应调用模型接口。 st.markdown(response) st.session_state.messages.append({role: assistant, content: response}) # **保存AI回复到数据库** db_utils.save_message(st.session_state.session_id, assistant, response)看关键就加了四行db_utils.save_message的调用。这样每次用户发送消息和AI回复后数据都会立刻被存入MySQL。当用户刷新页面时app.py开头的代码会从数据库加载他之前的对话历史并填充到st.session_state.messages中从而实现“记忆”功能。5. 第四步运行测试与问题排查代码都写完了是骡子是马拉出来遛遛。启动MySQL服务确保你的MySQL服务已经在运行。启动Streamlit应用在终端你的项目目录下运行streamlit run app.py测试聊天在浏览器打开的页面中输入几句话和AI模拟聊聊天。验证持久化刷新浏览器页面。你会发现刚才的对话记录又出现了彻底关闭浏览器再重新打开app.py的地址。只要session_id没变我们示例中用了UUID刷新不会变但新开浏览器会变历史记录依然在。最硬核的验证打开MySQL命令行直接查表。USE nanbeige_chat; SELECT * FROM conversation_history ORDER BY created_at DESC LIMIT 5;你应该能看到刚刚对话的记录。常见问题排查连接失败检查config.py里的主机、端口、用户名、密码、数据库名是否正确。检查MySQL服务是否启动。中文乱码确保数据库、表和连接都使用了utf8mb4字符集。表不存在回到第二步确认SQL执行成功表确实创建了。session_id变化导致历史丢失我们示例用了UUID每次全新打开页面都会生成新的。在实际应用中你可能需要结合用户登录系统或者使用浏览器Cookie来维持一个稳定的会话标识。6. 总结与下一步跟着走完上面这些步骤你的Nanbeige对话应用就已经从一个“金鱼脑”只有7秒记忆变成了一个“记事本”所有对话都稳稳地躺在了MySQL数据库里。整个过程其实不难核心就是“连接数据库、定义存什么、在合适的时候存进去、在需要的时候读出来”。你现在搭建的这个框架已经具备了核心的数据持久化能力。当然这只是一个起点。你可以在这个基础上继续深化用户设置管理完善user_settings表让用户可以保存自己的模型参数偏好温度、最大生成长度等。对话管理增加功能让用户可以查看、搜索、甚至删除某一段历史对话。性能优化对于对话历史很长的用户可以实现分页加载而不是一次性全部读出来。数据安全将数据库密码移出代码放到环境变量或专门的配置管理工具中。最重要的是你现在有了一个可靠的数据层。无论你的前端界面怎么改业务逻辑怎么变这些宝贵的数据资产都被安全地保管着。希望这篇教程能帮你扫清障碍让你能更专注于打造更酷、更智能的AI应用本身。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2465949.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!