Float8单数据格式FP8/HiF8训练算法介绍Float8混合精度训练策略随着预训练模型尤其是基于Transformer架构的大语言模型参数规模突破千亿级训练过程面临愈发严重的算力和内存瓶颈成本极高。在此背景下8位浮点逐渐成为学术界与工业界的关键突破方向特别是在支持矩阵乘加速器的GPU和NPU上相对16位浮点呈现出显著性能优势。当前推向商用的Float8单数据格式主要包括FP8(E4M3/E5M2)和HiF8。本节简要介绍Float8混合精度预训练的基本原理方便读者进一步理解后续内容。图一. Float8混合精度训练流程示意图在实际训练中Float8通常采用混合精度策略即对计算密集且对精度敏感度较低的模块如稠密线性层、MoE 专家层、Attention中QKV投影使用Float8计算而对归一化算子、MoE门控、优化器等高敏感模块仍保持FP32/BF16精度。图 1 展示了Float8混合精度训练流程。如图所示在每个transformer block的前向与反向计算过程中矩阵乘相关计算Fprop/Wgrad/Dgrad以Float8执行以实现显著的加速与显存节省。图1中的VecOps模块指不含矩阵乘法的Vector操作例如Softmax、Residual Add、SwiGLU激活函数等等。To_Float8模块是指将数据从高精度BF16量化到Float8格式。可以看到激活值A权重W和激活值梯度E在进入矩阵乘单元之前都先进行了Per-Tensor Scaling的操作也可以是更细粒度Scaling然后才Cast到Float8执行乘法同时矩阵计算完成后输出结果还需要进行De-Scaling还原。这是因为现在的语言模型的数据范围极其分散Float8通常无法直接覆盖需求的动态范围因此需要通过缩放来把数据有效值移动到格式有限的表达范围内。而Float8的Scaling策略和粒度是混合精度训练稳定性和收敛性所面临的关键挑战下面将对这部分内容进行展开讨论。Float8 Current Scaling Delayed Scaling训练策略介绍图二. Current Scaling VS Delayed Scaling高精度数据转换到低精度一般需要做缩放处理Scaling或者称之为量化。假设给定一种量化粒度获得一个数据块记为XScaling的过程是给X乘上一个系数使得所有值比较安全地转化到低比特的表达范围内这个系数我们称之为缩放因子或者称为Scaling Factor。现有的量化方法分为Current Scaling或者叫In-time Scaling和Delayed Scaling。式1和式2描述了Current Scaling执行缩放的原理。其中F8max是指该8比特浮点可表示的最大值例如FP8-E4M3为448。Amax是指X中所有数值统计的最大绝对值。式1计算得到的Scale变量等价于缩放因子。式2表示高精度数据缩放到低精度表达范围内的缩放过程。如图二所示Current Scaling是指在在当前高精度数据X的基础上遍历所有数值获得Amax可以通过执行ComputeAmax如torch.max()计算。但这种方式的问题是当X的规模比较大的时候Amax的计算会引入显著的延迟开销。而矩阵乘法只能等待式1中的Scale计算完成后才能开始最终会影响端到端性能。如果我们能提前预测当前X的Amax的近似值Amax的精确求解和矩阵乘的计算就可以实现解耦并行执行从而很大程度减少Amax计算对训练性能的影响。这种基于近似的Amax来做缩放的策略则是Delayed Scaling。Delayed Scaling的理论原理如式3和式4所示。与Current Scaling不同的是右边多乘了一项安全参数其中代表防止上溢的安全阈值参数例如FP8一般设为3HiF8一般设为8~12。Delayed Scaling的核心思想是通过当前数据X在历史迭代步中的统计信息来对当前的Amax进行近似估计。具体做法是通过建立一个Amax History Buffer来缓存X在若干历史迭代步中的最大值统计结果。当需要Amax时会从History Buffer中选出一个最大值也可以是其他规则如最邻近的和均值来作为当前Amax的估计并据此完成式3与式4所定义的缩放操作。与此同时我们可基于给定的统计间隔参数Interval来计算真实的Amax并追加到History Buffer中。例如当Interval 1时, 表示每次迭代都会计算一次当前X的Amax而当Interval 5时, 则表示每5次迭代才计算一次当前X的Amax中间4次不进行统计。由于History Buffer具有固定容量所以当新的Amax追加到History Buffer末尾后最前面的队首信息会被丢弃掉。这样可以一直用最近的历史信息来估计当前的Amax。理论上在Amax的近似误差不显著影响训练数值稳定性时Delayed Scaling相较于Current Scaling具有更优的训练性能潜力并且Amax统计频率越低其带来的训练性能加速收益理论上越显著。Float8块浮点格式MXFP8训练算法介绍图三. MXFP8预训练流程[1]MXFP8Micro-scaling FP8进一步采用1×32更细粒度的量化并使用硬化的UE8M0格式记录Scaling因子。用户可对张量按行或者按列划分成连续块Block每个块包含32个连续值其中每个块分配了一个以E8M0格式存储的专用缩放因子。图三展示了使用MXFP8的预训练流程。其中在前向过程中激活值A和权重W分别需要按行和按列进行量化才能进行后续的乘法。因为Tensor Core只能支持左矩阵按行量化右矩阵按列量化的块浮点输入进而才能正确完成矩阵乘法运算。在反向过程中输出值的梯度E则需按行和按列分别做两次量化权重梯度和激活值梯度矩阵乘运算中E一个是右矩阵一个左矩阵比单数据浮点格式多出了一次量化。同时在反向过程中还需要对激活值A和权重W的高精度备份先做转置然后分别按列和按行再次进行量化单数据浮点格式不需要。原因是前向的量化发生在在特定方向MXFP8张量直接转置后反向数据不满足Tensor Core矩阵乘的输入要求。相比8-bit单数据格式训练只需要对A、W和E三个Tensor各做一次量化MXFP8在训练流程的关键路径上都需要对三个Tensor按行和按列两个方向分别进行量化这多出的量化操作大幅影响了加速性能。即便MXFP8硬化了E8M0的Scale矩阵乘不会在K轴频繁断流对训练性能有所提升但也很难弥补由上述训练流程结构性复杂化所引入的性能劣化。从训练流程机理的角度来看块浮点格式由于其方向敏感的缩放与额外的量化依赖其端到端训练性能在理论上天然弱于采用粗粒度Scaling策略的单数据浮点格式。Float8训练性能对比分析图四. Per-tensor和Per-block Scaling在预训练中常用的量化粒度包括Per-tensor Scaling和Per-block Scaling。如图四所示Per-tensor Scaling是指为每个Tensor分配唯一的缩放系数用于量化Tensor内全部数值。然而大型模型的Tensor内部往往包含显著不同的数值分布例如不同注意力头的权重规模不同SwiGLU或MoE Router的激活函数会产生异常稀疏或极值集中的病态矩阵。Per-block Scaling将每个Tensor划分为更小、更易于管理的连续块并为每个Tensor Block分配专用的缩放因子。缩放机制可以适配局部数值分布而非受极端值主导。这意味着高数量级区域得到准确表示而不会影响同一Tensor内更小值的保真度。现有流行的FP8 Training Recipe之一会将Input和Gradient以1x128的1D Tile进行量化、Weight以128x128的2D Tile进行量化例如DeepSeek-V3或者Transformer Engine。图五. Delayed Scaling相比Current Scaling的加速效果[2]MXFP8为了减少整体溢出风险将原数据切成包含32个值的连续块的粒度来量化。这在保持高稳定性训练的同时引入了额外的反向量化开销理论上端到端训练性能不如粗粒度缩放的单数据浮点格式。如图三公开资料所示在LLAMA 3.1 405B模型的预训练中MXFP8相比纯BF16训练带来了约1.36x的加速比预期进一步软件优化的上限是1.52x低于Per-tensor FP8 Current Scaling的1.58x以及Per-tensor FP8 Delayed ScalingInterval1的1.62x加速比。同时该结果也佐证了Current Scaling的训练性能低于Delayed Scaling。图三结果进一步表明当Amax统计频次Interval1的时候Per-tensor Delayed Scaling比Per-tensor Current Scaling具有约4%的额外性能增益。这里Interval1是指第0个迭代步计算一次真实的Amax第1个迭代步复用第0步的Amax进行缩放然后更新计算Amax。第2个迭代步复用第1步更新后的Amax并且再次执行更新后续迭代以此类推从而形成“复用—更新”交替进行的统计机制。图六. 各种量化粒度的训练性能对比[2]另一方面对于单数据格式而言量化粒度的进一步细化会削弱端到端训练的加速效果。如图六的公开资料显示无论采用Per-tensor Delayed Scaling还是Per-tensor Current Scaling其加速比均高于Per-block和Per-channel即按行或者按列。并且随着量化粒度不断减小例如由Per-channel细化至最小的1D Sub-channel1×128整体训练加速比呈持续下降趋势。综合理论分析与公开数据可以得出如下结论在保证训练数值稳定性的前提下采用粗粒度缩放的单数据浮点格式在端到端训练性能上整体优于块浮点格式。同时随着量化粒度的不断细化训练加速比呈现单调递减趋势。另一方面Delayed Scaling的训练性能优于Current Scaling并且Amax的统计频率越低其带来的端到端训练加速收益越大。HiF8对比传统FP8、MXFP8的优势在Current Scaling策略下由于Amax由实时数据直接计算能够准确反映当前激活值的最大幅度因此不会出现量化上溢的情况。在该设定中FP8与HiF8在粗粒度下均可实现稳定且等效的训练性能。相比之下MXFP8在训练过程中的关键路径上引入了更多的量化与反量化操作因而带来额外开销从而使其在训练速度上低于FP8与HiF8粗粒度Scaling训练。图五所示的相对BF16的加速比亦验证了该结论无论是Per-tensor Current Scaling还是Per-tensor Delayed Scaling其加速性能均显著优于MXFP8。在Delayed Scaling策略中Amax由历史统计值预测而来可能与实际峰值存在偏差从而引发低比特量化中的上溢风险。因此该策略对低精度格式的动态范围提出更高要求。传统FP8E4M3/E5M2指数范围有限18或32个阶码E4M3保证了众数的精度但是由于动态范围有限无法很好表达极大值或极小值E5M2动态范围相对较大但整体数据精度低于4位有效位的E4M3。无论E4M3还是E5M2使用粗粒度Delayed Scaling策略都会降低训练稳定性或者模型的最终质量。HiF8具有锥形精度特征在提供更大的指数范围38个阶码的同时仍保持对众数数据的较高精度。基于此HiF8能显著降低溢出风险增强Delayed Scaling训练的稳定性并在确保端到端精度的同时有效提升整体系统效率。HiF8更加适用于于Delayed Scaling的另一个原因是其可支持更大的量化安全裕度。由于传统FP8-E4M3由于只有18个阶码因此往往只能选择0~3这样较小的安全裕度在X的数值峰值波动较大的时候发生上溢概率高容易导致训练跑飞。同时也因为安全裕度小对历史数据的预测不够稳健只能在每个迭代步计算一次Amax来确保Amax的准确性导致Amax计算开销大时延难以掩盖。相对而言HiF8拥有38个阶码这更大的动态范围能够允许选择较大的安全裕度为不准确的历史Amax近似当前Amax提供了更大的可波动范围从而大幅提高训练稳健性。此外较大的安全裕度允许以更低的频率统计更新Amax如每 5–20 个迭代步更新一次并可将Amax的计算以通信掩盖方式分摊到多个迭代过程中将一个Tensor拆分为若干等量子Tensor分散到Interval次迭代中掩盖在理想情况下可完全掩盖Amax的计算时延做完Amax计算完全不影响训练性能。因此在Delayed Scaling框架下我们可认为HiF8在训练精度和FP8基本一致的前提下训练性能和稳定性优于FP8。同时由于MXFP8的训练流程的复杂度提升HiF8训练性能也会优于MXFP8。综上所述HiF8凭借更大的动态范围、更稳健的量化行为以及更低的系统开销可为业界提供了更适合工业级训练的大规模混合精度方案。HiF8在小规模模型上的Per-tensor Scaling预训练实践HiF8 Current Scaling训练在Current Scaling场景下我们基于高精度格式仿真HiF8矩阵乘行为的方式对HiF8在DeepSeek-3B裁剪版上的从零开始预训练进行了系统评估。实验采用12B tokens的预训练语料并使用Per-tensor Current Scaling策略基线为前向与反向均采用FP8-E4M3的FP8训练流程。实验结果表明HiF8的训练损失曲线与FP8基线高度一致几乎完全重叠。同时在梯度范数Gradient Norm方面HiF8显示出显著更平滑的迭代轨迹而FP8则呈现明显的毛刺现象表明HiF8提供的更大动态范围有效提升了训练收敛的稳定性见图四。图七基于HiF8混合精度的DeepSeek-3B预训练HiF8 delayed Scaling训练学习FP16训练的稳定性技术在Delayed Scaling场景中我们同样通过仿真方式评估HiF8的训练效果采用Per-tensor Delayed Scaling策略对OLMo-1B进行了从零开始的完整预训练。实验采用240B tokens的预训练语料其中Amax的更新频率设为每5个迭代步更新一次即Interval 5。其他迭代步复用最近一次更新的Amax。BF16完整精度的训练作为对照基线。同时我们提出了一种Delayed Scaling的自动异常检测与校正机制。具体而言训练初始阶段采用Delayed Scaling当系统检测到训练过程出现异常行为例如出现梯度NAN时立即通过最近的Checkpoint重新启动Delayed Scaling训练模式注意首次启动Delayed Scaling迭代没有历史Amax需要用一次Current Scaling下一次迭代立即切换到Delayed Scaling。该机制有效提升了整体训练稳定性并减少异常传播。结果如图五所示在60000步的迭代中只在35000步的时候检测到了异常远低于FP16反向全局Loss Scaling训练策略的异常概率这进一步说明了HiF8 Delayed Scaling训练稳定性非常高同时HiF8的训练损失相较BF16的偏差始终低于0.5%整体Loss曲线与BF16基线高度一致。在下游任务评测中HiF8相比BF16的准确率损失均小于1%均值相对BF16提升了0.28个点达到了精度无损Lossless标准。实验结果充分验证了HiF8在Delayed Scaling框架下的稳定性与高效性。图八基于HiF8混合精度的OLMo-1B预训练表一基于HiF8混合精度预训练的OLMo-1B下游评测任务综上我们分别验证了HiF8在Per-tensor Current Scaling与Per-tensor Delayed Scaling两种设置下在小规模模型完整预训练中的有效性和稳定性。未来我们将进一步探索HiF8搭配Per-tensor Delayed Scaling在更大规模大语言模型训练中的性能表现相关结果将于后续工作中报告。总结HiFloat8HiF8通过创新的浮点数格式设计呈现出锥形精度特征显著扩展了可表示的动态范围从而在混合精度训练中同时兼具高效计算与稳定收敛的优势。在Per-tensor/Per-block Scaling以及Current/Delayed Scaling等关键量化组件中HiF8均展现出更高的鲁棒性与更低的系统开销。实验结果表明HiF8在大规模模型预训练中能够保持与高精度 BF16相当的收敛性能并在多项下游评测任务中实现无损或近乎无损的精度表现。在维持与BF16持平的训练质量的同时HiF8显著提可提升端到端训练效率展现出了作为下一代大模型训练核心技术路径的潜在价值。参考文献Rouhani, Bita Darvish, et al. Microscaling data formats for deep learning. arXiv preprint arXiv:2310.10537 (2023).Stable and Scalable FP8 Deep Learning Training on Blackwell. https://www.nvidia.com/en-us/on-demand/session/gtc25-s72778/