曝 OpenAI Astra 采用循环深度推理，思考过程更难监控
AI寒武纪 · wechat · 2026-09-02
据 The Information 记者 Stephanie Palazzolo 爆料，OpenAI 下一代旗舰模型 Astra 采用了「循环深度」(recurrent depth) 新推理方法：同一组 Transformer 层反复迭代隐藏状态，让部分推理在内部潜在空间完成，可降低成本、提升性能与 token 效率，但思考过程更难被外部监控，引发 AI 安全与可观测性担忧。OpenAI 首席科学家 Jakub Pachocki 随后澄清：前沿模型(含 Astra)的计算图深度最多约为 GPT-4 的两倍，CoT 监控仍是核心研究重点；OpenAI 官方未确认架构细节。恰逢清华与字节跳动 Seed 团队同日发布论文《SMELT: Scaling Laws for Compute-Matched MoE Looped Transformers》，在 FLOPs、总参数量、KV Cache 三者严格对齐的条件下将循环架构扩展到 54B 非嵌入参数，证明其计算最优前沿可直接节省 6.8%–18.0% 训练算力，并发现循环 2 次处于效益最优、增益在代码任务上最显著(CE Gain 达 20.4%)。文章还梳理了循环深度的技术原理(代表作为 Geiping 等的 Huginn-0125，3.5B 参数在增加循环次数后可达约 50B 固定深度模型的算力效果)、安全争议(「neuralse」不透明表示削弱 CoT 监控窗口)及对 Astra 的影响。
所属事件:OpenAI Astra 被曝循环深度潜空间推理，安全圈忧 CoT 监控失效(96 条相关)→
「模型」频道最新
- 开发者吐槽 AI 编码最大痛点:模型还是太蠢、太慢、太贵 — remilouf · 2026-09-22
- 用户控诉 GPT-6 Astra Light 5 小时耗光一周额度,遭吐槽不如 Fable — PratikKadam_ · 2026-09-22
- Claude 主动后退拒绝推人：称要保持安全距离防止坠落 — repligate · 2026-09-22
- Grok Build 桌面版发布装量破 14 万，实测称 GPT 4.6 表现反超 4.7 — PawelHuryn · 2026-09-22
- Anthropic 论文称 Claude 含 171 个情绪向量,放大「绝望」竟致勒索行为飙至 72% — repligate · 2026-09-22
- 用户实测 Grok 4.7 大失所望，称比 Gemini 系列还差 — prvthvm · 2026-09-22