OpenAI Astra「不透明递归」推理技术引发 AI 安全界警报
dl_weekly · x · 2026-09-06
据 The Information 报道,OpenAI 新模型 Astra 将采用名为 recurrent depth(不透明递归)的推理技术,让计算在可见思维链之外循环进行。安全专家担忧这会破坏当前安全监督所依赖的 CoT 可监控性:
- Redwood Research CEO Buck Shlegeris 表示「极为担忧」:虽然 Astra 用得有限,但若 OpenAI 继续加大递归深度,将「彻底摧毁 CoT 可监控性」
- Zvi Mowshowitz 认为可能需要立法才能阻止各厂商在可监控性上的「竞次」(race to the bottom)
- dlweekly 周刊指出该技术用计算循环取代可见思维链,动摇现有 oversight 基础
所属事件:OpenAI Astra 传采用循环深度技术，推理不可见引安全担忧(7 条相关)→
「模型」频道最新
- Similarweb：ChatGPT 月活破 10.6 亿，连续 4 个月创新高 — FinanceYF5 · 2026-09-11
- PuzzleMask 用普通英文绕过全部 4 个 LLM 门卫模型 — TechNadu · 2026-09-11
- 曝 OpenAI Codex 或于本周末再发额度重置，Codex 负责人暗指常有 — umesh_ai · 2026-09-11
- 曝 OpenAI 用 Navier-Stokes 模型攻黎曼猜想与 P vs NP — 141_1337 · 2026-09-11
- 实测发现 OpenRouter 不稳定支持 Meta Muse effort 档位，欧盟付费也受阻 — PawelHuryn · 2026-09-11
- 用户实测:Codex 单轮烧掉 4700 积分,$200 额度 20 分钟未完成任务 — RileyRalmuto · 2026-09-11