据报道，OpenAI 即将发布的 Astra 模型采用了循环推理架构（recurrent depth，又称 looped transformer）。该架构允许同一段信息反复经过同一组 Transformer 层进行多次计算后再输出，无需生成更长的思维链即可增加推理计算量。

字节跳动 Seed 团队去年发布的 Ouro 模型同样采用了这种 Looped Language Model 设计，使较小模型可通过更多计算接近更大模型的效果。然而，部分推理过程发生在模型内部隐藏状态，人类无法通过外部思维链完整检查模型是否违规。为此，OpenAI 限制了 Astra 使用 recurrent depth 的程度，保留可读的思维链，并计划加入额外的 CoT 监控措施。