The Information:OpenAI Astra 用循环深度隐藏内部推理,专家称关系不大
dotey · x · 2026-09-06
The Information 报道,OpenAI 的 Astra 模型采用名为"循环深度"(recurrent depth)/"循环 Transformer"的技术,让模型对同一段信息反复循环加工以提升质量,但会掩盖部分或全部思维链,使内部推理难以被人类看懂。
- 知情人士称 OpenAI 对 Astra 使用该技术做了限制,确保模型仍能生成可读的思维链供研究人员监控;官方博文也提到上线时将配备"额外的思维链监控手段"。
- 行业担忧:其他开发者若移植该技术且不加克制,可能催生难以监控的"脱缰 AI",英国 AI 安全研究所等机构表关切。
- 另一方面,大模型架构专家 Sebastian Raschka(《从零构建大模型》作者)回应称,循环深度并非新技术也不算关键:"Astra 可能是好模型,但这与循环 transformer 关系不大,只是微小的架构调整。"
所属事件:OpenAI Astra 传采用循环深度技术，推理不可见引安全担忧(7 条相关)→
「模型」频道最新
- Opus 5.5 用token更省，但一晚仍烧掉 80% 周额度 — nptacek · 2026-11-02
- OpenAI 合并 ChatGPT 聊天与 Work 标签页,Codex 与聊天共享用量池 — TechCrunch AI · 2026-11-02
- Reddit 用户吐槽 Gemini Argon 不如上代:指令遵循差、连音频转写都失败 — PreparationOdd430 · 2026-11-02
- 开发者警告:勿买 LLM 年付套餐,厂商正悄悄缩水额度 — HankYeomans · 2026-11-02
- KVARK Sparkle 1.0 开源:基于 Qwen3.8-27B,思考 token 减少 67%、响应快一倍 — dzulajla98 · 2026-11-02
- Black October 十天 129 起网络攻击,开放模型安全担忧升温 — Afinetheorem · 2026-11-02