InnoDB REDO LOG 详解:从原理到实现(基于 MySQL 8.0)

news2026/4/3 20:51:34
在现代关系型数据库系统中事务的持久性Durability是 ACID 特性的关键一环。为了在系统崩溃后仍能恢复数据一致性InnoDB 引擎引入了REDO LOG重做日志机制。本文将深入剖析 REDO LOG 的作用、设计思想、组织结构、写入流程以及清理策略帮助读者全面理解其在 InnoDB 中的核心地位。 目录为什么需要 REDO LOGREDO LOG 的设计目标与 Physiological LoggingREDO LOG 的内容分类REDO LOG 的三层组织结构高效写入机制MySQL 8.0 优化REDO LOG 的安全清理Checkpoint 机制总结延伸阅读1️⃣ 为什么需要 REDO LOGInnoDB 采用Buffer Pool缓存数据页以提升性能对磁盘的修改往往滞后于内存。若此时发生崩溃未刷盘的脏页将丢失破坏数据一致性。 WAL 机制为解决此问题InnoDB 引入WALWrite-Ahead Logging机制┌─────────────────────────────────────────────────┐ │ 在修改 Page 前先将变更记录写入 REDO LOG │ │ 并确保 REDO 先于 Page 落盘 │ └─────────────────────────────────────────────────┘系统重启时通过重放 REDO LOG可将 Page 恢复至崩溃前状态从而保证事务的持久性。2️⃣ REDO LOG 的设计目标与 Physiological Logging理想的 REDO LOG 需满足以下要求设计目标说明数据量小减少 I/O 开销提升吞吐幂等性重放多次结果一致避免重复应用基于 Page便于并行恢复 传统日志对比日志类型优点缺点Logical Logging体积小恢复慢Physical Logging恢复快日志量大 InnoDB 的解决方案Physiological LoggingInnoDB 采用Physiological Logging——以 Page 为单位在 Page 内部使用逻辑方式记录变更。示例MLOG_REC_UPDATE_IN_PLACE(Page ID, Record Offset, (Field 1, Value 1), ..., (Field i, Value i))这种方式兼顾了日志体积与恢复效率但也带来两个挑战⚠️ 挑战一Page 状态必须正确由于 InnoDB Page默认 16KB大于文件系统原子写单位4KB可能出现半写页。解决方案InnoDB 引入Double Write Buffer机制确保总能找到一个完整有效的 Page。⚠️ 挑战二保证重放幂等InnoDB 为每条 REDO 分配全局唯一递增的LSNLog Sequence Number。机制Page 在修改时会记录对应 REDO 的 LSN存于FIL_PAGE_LSN字段恢复时若 Page 的 LSN ≥ REDO 的 LSN则跳过该 REDO实现幂等重放3️⃣ REDO LOG 的内容分类MySQL 8.0 中定义了65 种 REDO 类型可分为三大类 1作用于 Page 的 REDO占绝大多数子类型说明示例Index Page索引页操作MLOG_REC_INSERT,MLOG_REC_UPDATE_IN_PLACE,MLOG_REC_DELETEUndo PageUndo 页操作-R-tree PageR树页操作-示例MLOG_REC_UPDATE_IN_PLACE结构┌─────────────────────────────────────────────────────────┐ │ Header (固定) │ ├─────────────────────────────────────────────────────────┤ │ Type │ Space ID │ Page Number │ ├─────────────────────────────────────────────────────────┤ │ Body (可变) │ ├─────────────────────────────────────────────────────────┤ │ Record Offset │ Update Field Count │ (Field Number, │ │ │ │ Data Length, │ │ │ │ Data) × N │ └─────────────────────────────────────────────────────────┘ 2作用于 Space 的 REDO用于文件级操作类型说明MLOG_FILE_CREATE文件创建MLOG_FILE_DELETE文件删除MLOG_FILE_RENAME文件重命名特点此类 REDO 在操作成功后才记录恢复时主要用于校验文件状态Page Number 固定为 0️ 3Logic 类型 REDO不修改数据仅提供控制信息。类型说明MLOG_MULTI_REC_END标识一个原子操作mtr的结束4️⃣ REDO LOG 的三层组织结构REDO LOG 从逻辑到物理分为三层 1逻辑层Logical REDO由连续的 REDO 记录组成使用全局递增偏移snsequence number标识位置log_sys.sn维护当前最大 sn 2物理层Log Block磁盘以Block为单位读写512B每个 Block 结构┌──────────────────────────────────────────────────────┐ │ Block Header (12 bytes) │ ├──────────────┬──────────────┬──────────────┬─────────┤ │ Flush Flag │ Data Length │ First Record │ Check- │ │ Block Num │ (2B) │ Offset (2B) │ point │ │ (4B) │ │ │ Num (4B)│ ├──────────────────────────────────────────────────────┤ │ Data Area (498 bytes) - Logical REDO │ ├──────────────────────────────────────────────────────┤ │ Block Trailer (4 bytes) - Checksum │ └──────────────────────────────────────────────────────┘跨 Block 存储由于 REDO 长度不定可能跨 Block 存储。 LSN 与 sn 的换算constexprinlinelsn_tlog_translate_sn_to_lsn(lsn_t sn){return(sn/LOG_BLOCK_DATA_SIZE*OS_FILE_LOG_BLOCK_SIZEsn%LOG_BLOCK_DATA_SIZELOG_BLOCK_HDR_SIZE);} 3文件层Redo Files文件命名ib_logfile0,ib_logfile1, …循环使用由innodb_log_files_in_group控制数量文件结构┌─────────────────────────────────────────────────────┐ │ Block 0: Header Block │ │ - Format (4B) │ │ - Start LSN (8B) │ │ - Creator (32B) │ ├─────────────────────────────────────────────────────┤ │ Block 1-3: Checkpoint Blocks (ib_logfile0 only) │ ├─────────────────────────────────────────────────────┤ │ Block 4: Log Data Blocks │ └─────────────────────────────────────────────────────┘LSN 到文件 offset 的映射constautoreal_offsetlog.current_file_real_offset(lsn-log.current_file_lsn);5️⃣ 高效写入机制MySQL 8.0 优化REDO 写入是事务提交的关键路径。MySQL 8.0 引入无锁并发写入架构 写入流程图REDO 生成Log BufferPage Cache磁盘唤醒用户线程 详细步骤1REDO 生成mtrmini-transaction原子操作的所有 REDO 先写入 mtr 的本地m_logmtr_commit()时批量拷贝到 Log Buffer2写入 Log Buffer无锁分配/* Reserve space in sequence of data bytes: */constsn_t start_snlog.sn.fetch_add(len);多个 mtr 并发调用log_buffer_reserve()通过fetch_add原子获取独享空间避免锁竞争3写入 Page Cachelog_writer link_buflink_buf 工作原理┌─────────────────────────────────────────────────────────┐ │ link_buf (循环数组) │ │ [LSN % size] → REDO 长度 │ │ │ │ log_writer 扫描找到连续区域 → 调用 pwrite 写入 OS Cache │ └─────────────────────────────────────────────────────────┘关键变量write_lsn已写入 Page Cache 的位置buf_ready_for_write_lsnLog Buffer 中连续日志的末尾current_lsn已分配的最大 LSN4刷盘log_flusherlog_writer通知log_flusherlog_flusher调用fsync确保持久化5唤醒用户线程优化策略条件变量按 Block 分片减少竞争专用线程负责唤醒log_write_notifier/log_flush_notifier⚙️ 安全级别配置配置值说明安全性性能innodb_flush_log_at_trx_commit1REDO 刷盘后提交⭐⭐⭐⭐⭐⭐⭐⭐2仅写入 OS Cache 即提交⭐⭐⭐⭐⭐⭐⭐⭐6️⃣ REDO LOG 的安全清理Checkpoint 机制REDO 文件空间有限需定期清理已无需保留的日志。InnoDB 通过Checkpoint标记可回收位置。 Checkpoint LSN 的确定需确保 Checkpoint 之前的所有脏页均已刷盘/* LWM lsn for unflushed dirty pages in Buffer Pool */constlsn_t lsnbuf_pool_get_oldest_modification_approx();constlsn_t laglog.recent_closed.capacity();lsn_t lwm_lsnlsn-lag;/* Note lsn up to which all dirty pages have already been added into Buffer Pool */constlsn_t dpa_lsnlog_buffer_dirty_pages_added_up_to_lsn(log);/* Final checkpoint position */lsn_t checkpoint_lsnstd::min(lwm_lsn,dpa_lsn);关键概念lwm_lsnBuffer Pool 中最老脏页的 LSNdpa_lsn已加入 Buffer Pool 的脏页最大 LSNrecent_closedlink_buf处理脏页注册的乱序问题 Checkpoint 存储位置ib_logfile0的 Block 1 和 Block 2交替写入防崩溃内容字段大小说明Checkpoint Number8B用于判断最新记录Checkpoint LSN8BCheckpoint 位置Checkpoint Offset8B文件偏移Log Buffer Size8B暂未使用恢复时从最新 Checkpoint LSN 开始重放后续 REDO。7️⃣ 总结特性说明核心作用保证事务持久性支持崩溃恢复设计思想Physiological Logging物理逻辑混合关键机制LSN 幂等、WAL、Double Write Buffer性能优化无锁并发写入、link_buf、专用唤醒线程空间管理Checkpoint 循环文件REDO LOG 是 InnoDB 实现事务持久性和崩溃恢复的基石。通过Physiological Logging、LSN 幂等机制、三层存储结构以及MySQL 8.0 的无锁并发写入架构InnoDB 在保证数据安全的同时极大提升了写入性能。理解 REDO LOG 的价值✅ 帮助 DBA 优化配置如innodb_log_file_size、innodb_flush_log_at_trx_commit✅ 为开发者设计高性能事务应用提供理论基础✅ 深入理解数据库内核工作原理8️⃣ 延伸阅读官方文档与源码MySQL 8.0 Redo Log FormatMySQL Source Code技术文章New Lock-free, Scalable WAL Design in MySQL 8.0How InnoDB handles REDO logging 本文基于 MySQL 8.0 源码分析

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2480052.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…