循环深度技术解析：让Transformer在潜空间中反复思考

一、从“堆层数”到“重复用”：一个被重新审视的思路

过去几年，大模型能力提升的主线之一就是“加深”——堆更多的Transformer层、喂更多的数据、扩更大的参数。但这条路径正面临两重压力：显存与算力成本随深度近似线性增长，而深层网络中的冗余与梯度传播问题也日益突出。于是，一个更“经济”的思路重新回到研究者的视野：与其不断增加独立的层，不如让同一组参数被反复调用多次，让模型在潜在空间中多“想”几轮。

这一思路的典型代表就是循环Transformer（Looped Transformer）：模型主体由少量层构成，但前向过程中把这组层重复执行若干次，每次的输入是上一次的输出（可附带位置或步数信息），从而在不增加参数量的前提下显著提升有效计算深度。近期某云厂商发布的新一代模型所展现出的能力跃升，被广泛猜测与这类“循环深度”架构有关——当然，具体实现细节并未公开，本文只讨论这一技术范式本身。

需要强调的是，循环深度不是简单的“把网络跑两遍”。它涉及参数共享方式、循环步数的训练策略、梯度回传路径、推理时的动态停止等一系列工程与算法问题。理解这些细节，才能真正判断它是否适合自己的场景。

二、技术渊源：并行性与循环归纳偏置的结合

循环深度的思想可以追溯到通用Transformer（Universal Transformer，UT）。标准Transformer的优势在于层内并行、训练高效；而循环神经网络（RNN）的优势在于通过时间步共享参数，具备天然的循环归纳偏置，能以固定参数量处理任意长程依赖。UT的核心做法是：把Transformer的层在“深度”方向上展开成一个循环结构，每一“步”使用共享参数，并配合步数编码（类似位置编码的变体）来区分不同的循环轮次。

这一设计带来几个直接好处：

• 参数效率高：参数量由“层数×每层宽度”决定，而有效计算深度可以通过循环步数灵活调节；
• 计算可伸缩：训练时用较少的循环步数控制成本，推理时按需增加步数换取更强的推理能力；
• 结构规整：共享参数使模型更容易优化，也便于在现有架构上做增量改造。

2025年前后，有研究直接以“循环深度（recurrent depth）”命名这一概念，并给出了颇具说服力的实验结果：一个约3.5B参数的循环模型，在测试阶段增加循环次数后，其有效计算量可以接近约50B参数模型的水平。这个数字的意义不在于“小模型打赢大模型”的口号，而在于它揭示了一种新的缩放维度——除了参数缩放和训练数据缩放之外，推理时的计算深度本身也可以成为一个可调节的缩放轴。

三、循环不是越多越好：非单调收益与背后的原因

一个容易被忽略但非常关键的发现是：循环带来的收益并非单调递增。有研究指出，在某些设置下“循环两次”接近最优，继续增加到三次以上反而出现性能回退。这一现象并不神秘，可以从几个角度理解：

1. 优化难度上升：共享参数被多次回传梯度，等效于一个很深的计算图，梯度消失/爆炸与训练不稳定风险增加；
2. 表示坍缩：多轮迭代后，隐藏状态可能收敛到相近的表示，后续循环提供的新信息减少，甚至放大噪声；
3. 训练与推理不匹配：如果训练时只用了固定步数，推理时突然增加步数，模型没有见过这种分布，表现自然下降；
4. 步数编码外推问题：区分不同循环轮次依赖步数信息，若步数编码设计不佳，超出训练范围的表现会明显退化。

因此，真正有价值的不是“能循环”，而是“知道何时停止、如何训练”。常见应对思路包括：训练时随机采样循环步数（类似dropout式的步数正则），让模型适应多档深度；引入自适应停止机制，由模型自身判断当前表示是否已“想清楚”；对循环步做残差缩放或层归一化约束，稳定深层迭代。可以预见，某云厂商的新模型若确实在循环深度上取得明显领先，其关键大概率不在“用了循环”，而在“解决了循环的稳定性与停止策略”。

四、在既有模型上“加壳”：低成本的落地路径

循环深度另一个值得关注的特点是工程上的可嫁接性。已有研究表明，可以在已有的开源模型（此处指业界通用的开源权重模型类别）上，通过增加一层“循环外壳”——即在外层包一个可重复执行的轻量模块，或对部分层做参数共享改造——在不重新预训练全模型的前提下获得性能提升，代价主要是推理算力而非训练算力。

这对开发者意味着什么？可以用一个高度简化的伪代码说明其形态：

# 概念示意：在现有主干外层加一个可循环的适配模块
class LoopedWrapper(nn.Module):
    def __init__(self, backbone, loop_block, max_steps=3):
        super().__init__()
        self.backbone = backbone          # 冻结或部分微调的既有模型
        self.loop_block = loop_block      # 共享参数的循环模块
        self.max_steps = max_steps
    def forward(self, x, steps=None):
        h = self.backbone(x)              # 既有模型给出初始表示
        steps = steps or self.max_steps
        for t in range(steps):            # 同一组参数反复调用
            h = h + self.loop_block(h, step_emb=t)  # 残差 + 步数编码
        return h

实际实现远比这复杂，但思路是清晰的：把“额外计算”放在推理侧，把“额外训练”控制在小范围。这为算力预算有限、又希望提升模型推理质量的团队提供了一条现实路径。同时也带来新的工程问题：推理延迟随步数线性增长、批处理下不同样本可能需要不同步数、显存占用与调度策略需要重新设计。

五、规模化验证：从学术玩具到可训练范式

判断一项技术是否成熟，一个朴素标准是：它能否在规模化训练中稳定复现收益。围绕循环深度的多项工作已给出较为一致的结论——在合理设计下，循环深度可以跨越“学术玩具”与“可规模化训练范式”之间的临界点。支撑这一判断的要素包括：

• 训练稳定性方案趋于成熟：步数正则、梯度裁剪与归一化约束的组合已被验证有效；
• 收益具备可预测性：在多个模型规模上，增加循环步数带来的提升呈现相对一致的规律，而非偶发；
• 与现有基础设施兼容：参数共享不改变算子集合，主要影响调度与显存规划，改造门槛可控；
• 推理侧可调节：同一模型可按任务难度动态分配计算，适合分层服务。

当然，仍有开放问题：循环深度与混合专家、长上下文等其它范式的叠加效果如何；在超大规模下，步数增加带来的边际收益何时耗尽；以及如何为动态步数设计合理的服务等级与成本模型。这些问题没有标准答案，需要结合具体业务做实测。

六、给开发者的实践建议

如果你希望在自有系统中尝试循环深度，建议按以下顺序推进：

1. 先做小规模验证：在中等规模模型上对比“固定步数1/2/3”的效果曲线，确认你的任务是否真的受益于更深计算，而非仅仅是更多参数；
2. 优先解决训练-推理一致性：训练时就用随机步数或多档步数，避免推理加步数时的分布偏移；
3. 设计停止策略：可以是基于置信度或表示变化的轻量判据，也可以是按任务类型预设步数档位；
4. 核算服务成本：把“平均步数×单步延迟”纳入容量规划，动态步数意味着尾延迟管理更复杂；
5. 关注表示健康度：监控多轮迭代后隐藏状态的范数与相似度，及早发现坍缩迹象。

循环深度的价值，本质上在于它为模型能力提供了一个新的、可在推理时调节的旋钮。它不会取代参数缩放与数据缩放，而是与之并列，成为架构设计者工具箱中的又一件工具。至于这件工具能被用到多深的程度，取决于我们对其边界的理解有多清楚。