循环深度架构：让模型在潜在空间反复推理

一、问题背景：参数扩展之外的第二条曲线

过去几年，大模型能力提升主要沿着“更多参数、更多数据、更多算力”的路线推进。但当参数规模继续增长时，训练成本、推理延迟、显存占用和部署复杂度都会同步上升。于是，一个新的问题被反复提出：能否在不显著增加参数量的前提下，让模型获得更强的计算深度和推理能力？

循环深度（recurrent depth）提供了一条值得关注的路径。它的核心不是简单堆叠更多独立层，而是让同一组参数或同一个计算块被重复调用多次，使模型在潜在空间中完成多轮“隐式推理”。换句话说，模型不是把推理过程完全展开成外部可见的文本步骤，而是在内部表示上反复迭代、精炼和修正。

这种设计把“参数规模”和“计算深度”部分解耦：参数可以保持相对可控，而推理时的循环次数可以作为一种可调的计算预算。对于需要复杂推理、长链条计算或高难度代码理解的任务，这种测试时计算扩展能力具有明显吸引力。

二、核心机制：参数共享与潜在空间迭代

标准 Transformer 通常由多个结构相似但参数独立的层组成。每一层都有独立的权重，层数增加意味着参数量线性增长。循环深度则不同：它选择一个或一组共享计算块，将输入表示反复送入同一个块中处理。

可以把过程抽象为：

h0 = embed(x)
for t in 1..T:
    ht = shared_block(h_{t-1}) + residual
y = head(hT)

其中 shared_block 的参数在所有循环步中共享。模型通过多轮迭代，逐步修正潜在表示。与循环神经网络类似，它引入了循环归纳偏置；与 Transformer 类似，它仍然可以保留注意力机制带来的并行处理能力。二者的结合，使得模型既能进行多步计算，又不必为每一步都引入全新参数。

参数共享还带来一个隐性收益：模型必须学习“可复用的计算原语”。这会对表示形成一种正则化，迫使共享块掌握更通用的变换能力，而不是依赖大量独立层记忆局部模式。

三、技术脉络：从循环归纳偏置到可规模化范式

循环深度并不是突然出现的新概念。早期通用 Transformer 变体就尝试在层间共享参数，并引入动态停止机制，让模型根据输入难度决定计算步数。这类工作把 RNN 的循环归纳偏置与 Transformer 的并行结构结合起来，为后续研究提供了基础。

近期，循环深度被更明确地命名和系统化研究。研究者不再只把它当作一种参数压缩技巧，而是把它视为独立的架构维度：模型可以在训练阶段学习一个共享计算块，在推理阶段通过增加循环步数来扩展有效计算深度。有公开实验显示，数 B 级参数的循环模型在增加测试时循环步数后，可以接近数十 B 级参数模型的计算效果。这说明循环深度具备“以推理计算换参数效率”的潜力。

更重要的是，循环深度正在从学术玩具走向可规模化训练范式。判断是否跨过临界点，通常看三件事：训练是否稳定、扩展是否可预测、工程是否可落地。当前的研究趋势表明，通过门控、归一化、残差缩放和自适应停止等设计，循环深度已经具备较强的工程可行性。

四、为什么有效：计算深度、测试时扩展与隐式推理

循环深度的有效性可以从四个层面理解。

第一，计算深度与参数规模解耦。传统模型增加深度往往要增加参数，而循环模型可以在参数不变的情况下增加前向计算次数。对于参数预算受限但推理预算相对充足的场景，这是一种新的折中。

第二，测试时计算扩展。模型在推理阶段可以根据任务难度选择循环次数。简单样本少循环，复杂样本多循环，从而把计算资源集中到真正困难的部分。这种动态预算是循环深度最实用的能力之一。

第三，潜在空间中的隐式推理。多轮循环让模型在隐藏表示上反复变换，相当于在不生成中间 token 的情况下进行内部推演。对于数学计算、逻辑判断、代码执行路径分析等任务，这种内部迭代可能比单次前向传播更充分。

第四，参数效率与正则化。共享块减少了参数量，同时迫使模型学习通用变换。它不一定在所有任务上都优于独立层堆叠，但在参数受限、需要复用计算逻辑的场景中具有吸引力。

五、循环次数的悖论：两次较优与三次回退

循环深度并非“循环越多越好”。有实验观察到，循环两次往往是较优点，继续增加到三次以上时，性能可能回退。这个现象并不神秘，常见原因包括：优化难度上升、梯度传播病态、表示坍缩、循环模式过拟合，以及缺少有效的门控与停止机制。

当共享块被反复调用时，如果残差连接和归一化设计不当，隐藏表示可能在多轮迭代中逐渐趋同，导致后续循环提供的新信息减少。另一方面，训练时如果只使用固定循环次数，模型可能记住特定步数的计算模式，难以泛化到更多循环。

缓解这一瓶颈通常需要组合策略：使用门控残差控制每轮更新强度；引入循环特定的归一化或缩放；训练时随机采样循环步数，提升长度外推能力；使用自适应停止机制，让模型学习何时结束计算；对每轮表示差异增加正则，避免表示过早坍缩。循环深度不是简单重复，而是需要精心设计的迭代计算系统。

六、工程实践：用“循环外壳”低成本验证收益

对于已有模型，完全重训成本较高。更务实的做法是先做“循环外壳”验证：冻结大部分主干参数，选择一个或几个可复用块，在外面包一层轻量循环控制逻辑，观察在目标任务上的收益。

一个简化的伪代码如下：

def looped_forward(x, shared_block, head, max_loops, gate, stopper):
    h = embed(x)
    for t in range(max_loops):
        delta = shared_block(h)
        h = h + gate(t) * delta
        if stopper(h, t):
            break
    return head(h)

这里的 gate 可以是可学习标量、向量或调度函数，用于控制每轮更新幅度；stopper 可以是基于置信度、表示变化量或固定预算的停止规则。工程上建议先做小规模消融：固定循环 1 次、2 次、3 次，比较损失、任务指标、延迟和显存；再测试随机循环训练；最后再考虑是否扩大共享块范围。

七、训练与推理：稳定性优先，预算可控

训练循环深度模型时，稳定性比单纯追求步数更重要。常见实践包括：随机采样循环步数，避免模型只适配固定深度；使用梯度检查点控制显存；对循环残差进行缩放；监控每轮表示的余弦相似度和范数变化，及时发现坍缩；在早期训练阶段限制最大循环次数，随后逐步放开。

推理阶段则要建立预算控制。可以为不同任务设置最大循环次数、早停阈值和超时策略。对于在线服务，延迟和吞吐是硬约束，循环深度带来的额外计算必须纳入容量规划。评估时不能只看同参数下的指标提升，还要比较“同计算预算下循环模型与更大参数模型”的性价比，以及不同循环次数下的收益曲线。

八、规模化临界点与评估方法

循环深度要从实验技巧变成可规模化范式，需要满足几个条件：训练过程可复现、扩展趋势可预测、工程实现可维护、评估口径可比较。规模化验证不应只报告最好结果，而应给出循环次数与损失、准确率、延迟之间的完整曲线，并说明在何种任务分布下收益最明显。

评估时建议至少设置三组基线：同参数量的非循环模型、同计算预算的更深模型、同推理延迟的替代方案。只有把参数效率、计算效率和任务收益放在同一张表里比较，才能判断循环深度是否真正适合当前业务。

九、风险、边界与最佳实践

循环深度并非万能。它对任务类型敏感，对训练稳定性要求较高，也会增加推理延迟和实现复杂度。对于简单分类、短文本匹配等任务，额外循环可能收益有限；对于复杂推理和长链条计算，才更值得投入。

落地时建议遵循以下清单：先从低成本循环外壳验证；小步增加循环步数并监控表示差异；使用门控残差和自适应停止；训练时随机化循环长度；推理时设置硬预算；评估时同时报告参数、计算、延迟和效果。循环深度的价值不在于“重复几次”本身，而在于把计算预算变成可调节、可评估、可控制的架构维度。

十、总结

循环深度代表了一种重要思路：不再只通过增加参数来扩展模型能力，而是让共享计算块在潜在空间中反复迭代，以测试时计算换取更强推理。它的技术脉络承接了循环归纳偏置与 Transformer 的并行结构，工程上可以通过循环外壳、门控残差和自适应停止逐步落地。与此同时，循环次数存在收益拐点，训练稳定性和推理预算控制是关键。对于希望探索参数效率与计算扩展平衡的团队，循环深度值得作为一条独立技术路线持续验证。