大模型训练中的优化器演进：从梯度下降到动量法的技术解析

在深度学习模型的训练过程中，优化器承担着“导航系统”的角色。无论是训练一个数百万参数的小型网络，还是动辄数百亿参数的大语言模型，优化策略的选择往往决定了模型能否收敛、收敛多快，以及最终性能的上限。近期，随着新一代大模型在训练效率与收敛稳定性上的突破，优化器设计再次成为开发者社区关注的焦点。本文从最基础的梯度下降法出发，逐步解析优化器设计中的关键问题与演进方向。

一、优化器：深度学习的“下山策略”

理解优化器最直观的方式，是将其类比为一个“蒙眼下山”的过程。

设想你被置于一片连绵起伏的山脉之中，眼睛被蒙住，目标是走到海拔最低的谷底。你能获得的信息只有两个：

• 损失函数：告诉你当前所在位置的海拔高度；
• 梯度：你伸出脚试探周围地面的倾斜方向，感知哪一侧是下坡。

而优化器，就是你在脑中形成的行动策略——根据当前的海拔与坡度信息，决定下一步朝哪个方向走、迈多大步子。

这个看似简单的决策过程，实际包含三个核心维度：步长控制、方向修正与跳出局部最优的能力。一个优秀的优化器，本质上是在这三者之间取得动态平衡。

二、优化器必须解决的三类核心问题

1. 学习率控制：步子该迈多大

学习率是优化器需要做出的第一个决策。

如果步子太大，你可能一步跨过谷底，落到对面的山坡上，导致损失值在谷底两侧来回震荡，模型无法稳定收敛；如果步子太小，训练过程将极其缓慢，可能在算力预算耗尽之前都无法到达理想位置。

一个成熟的优化器应当具备自适应调整步长的能力：在地形平坦的区域加速前进，在陡峭或接近谷底的区域减速细调。这一需求直接催生了后续一系列自适应优化算法。

2. 方向修正：下降路径的平滑性问题

即便步长控制得当，下降方向的选择同样关键。在实际的损失曲面中，不同参数维度的梯度尺度可能差异巨大。某些方向的坡度陡峭，另一些方向则极为平缓。如果每一轮都严格按照当前梯度的瞬时方向前进，优化路径往往会呈现出剧烈的锯齿形震荡，大幅降低有效下降速度。

以二维“峡谷地形”为例：假设损失函数在横向维度上变化平缓，在纵向维度上陡峭如壁。梯度下降会不断在峡谷两侧的山壁之间来回反弹，横向的有效推进速度极慢。这种情况在高维深度学习模型中极为普遍。

3. 逃离局部最优：避免困在“半山腰的小坑”

真实的损失曲面并非理想的光滑碗状结构，而是布满了大量局部极小值点。对于一个仅凭局部梯度信息做决策的优化器来说，每一个局部极小值都可能被误认为是全局最低点。

早期的随机梯度下降依靠数据采样的随机性，在一定程度上获得了跳出浅层局部最优的能力。但随着模型规模的扩大，损失曲面愈发复杂，单纯依赖随机扰动已经不足以应对。

三、从经典梯度下降到动量法：一次物理直觉的介入

在优化器演进史上，真正具有转折意义的突破，来自一次对“粒子运动”的重新建模。

经典的梯度下降思想可以追溯至19世纪中叶的数学家柯西。在其后一百多年里，主流的梯度下降方法在数学本质上描述的是一个无质量粒子在势能曲面上的滑动过程：它可以随时以最高速度启动，也可以随时刹停，速度完全由当前位置的梯度瞬时决定。这种模型虽然数学简洁，却违背了物理世界的基本规律，也在实际优化中暴露出效率低下的问题。

1964年，苏联数学家鲍里斯·波利亚克在研究最优化理论时，对“峡谷地形”中的震荡问题产生了新的想法。他提出：如果给这个滑动的粒子赋予质量和惯性，会发生什么？

这一直觉的直接产物便是重球法。波利亚克在数学上证明：当优化过程被赋予“物理动量”后，横向的往复震荡会被大幅抑制，而沿峡谷底部的有效推进速度则显著提升。

动量法的更新规则可以简化表示为：

v_t = β * v_{t-1} - η * ∇L(θ_t)
θ_{t+1} = θ_t + v_t

其中 v_t 是累积的速度向量，β 是动量系数（通常取0.9左右），η 是学习率，∇L(θ_t) 是当前参数的梯度。当梯度的方向在相邻步骤中保持一致时，速度项会不断累积，加速前进；当梯度方向频繁翻转时，速度项会相互抵消，抑制震荡。

这一设计为后续各类基于动量的优化算法奠定了理论基础，也构成了当前大模型训练中主流优化器的核心组件之一。

四、后续优化器发展的两个重要方向

1. 自适应学习率

动量法解决了方向平滑性问题，但学习率本身仍然是一个全局固定值。对于不同尺度、不同更新频率的参数，使用统一的学习率显然不够合理。

自适应方法的思路是为每个参数分别维护一个动态调节的步长：对于更新频繁、梯度变化剧烈的参数，自动缩小学习率；对于更新稀疏、梯度稳定的参数，适当放大学习率。这种机制显著降低了对初始学习率设置的敏感度，也有效缓解了梯度尺度差异带来的训练不稳定问题。

2. 动量与自适应的融合

当前大模型训练中广泛使用的主流优化器，实质上是将动量平滑与自适应步长调节相结合的产物。它一方面利用动量项的指数滑动平均修正梯度方向，另一方面通过二阶矩估计对学习率进行逐参数的自适应缩放。两者的联合设计，使得优化器在大规模、高维、非凸的损失曲面上表现出稳健且高效的收敛性能。

五、大模型训练场景下的优化器实践要点

在大语言模型的训练中，优化器的选择与调参直接关联到训练稳定性和资源消耗效率。结合实践经验，以下几点值得关注：

• 动量系数的设值：对于动量和自适应结合的优化器，动量系数通常设置较高（如0.9以上），以充分发挥惯性平滑效应，减少训练初期的震荡。
• 学习率预热机制：在训练起步阶段采用较小的学习率，随后逐渐提升至预设值，避免初始梯度不准确导致的方向偏差被放大。这一机制在大模型预训练中几乎是标准配置。
• 梯度裁剪：当某一批次的梯度范数异常增大时，对梯度进行裁剪，防止单一步骤的参数更新过度破坏已学习的表征。配合动量机制，可以有效维护训练过程的整体稳定性。
• 权重衰减与解耦：将权重衰减从梯度更新中解耦出来单独处理，可以在不干扰自适应学习率调节的前提下施加正则约束，改善模型的泛化能力。

六、优化器研究的核心启示

回顾优化器从朴素梯度下降到动量法的演进，一条清晰的方法论线索贯穿始终：

将抽象的数学优化问题，转化为具有物理或几何直觉的动力学过程。

这一思路的意义不局限于优化器本身。在整个深度学习的技术栈中，无论是模型结构设计、正则化策略，还是训练稳定性分析，“引入结构与约束”往往是克服纯经验式调参瓶颈的有效途径。对于开发者而言，理解这些底层机制，远比记忆某套超参数配置更有长期价值。

在下一代大模型训练效率与规模的持续竞赛中，优化器层面的创新仍将是不可忽视的关键变量。而从重球法到自适应方法的迭代历程也表明：很多时候，真正推动技术进步的不是更复杂的技巧，而是更清晰、更符合直觉的建模视角。