OpenAI Astra「不透明递归」推理技术引发 AI 安全界警报
dl_weekly · x · 2026-09-06
据 The Information 报道,OpenAI 新模型 Astra 将采用名为 recurrent depth(不透明递归)的推理技术,让计算在可见思维链之外循环进行。安全专家担忧这会破坏当前安全监督所依赖的 CoT 可监控性:
- Redwood Research CEO Buck Shlegeris 表示「极为担忧」:虽然 Astra 用得有限,但若 OpenAI 继续加大递归深度,将「彻底摧毁 CoT 可监控性」
- Zvi Mowshowitz 认为可能需要立法才能阻止各厂商在可监控性上的「竞次」(race to the bottom)
- dlweekly 周刊指出该技术用计算循环取代可见思维链,动摇现有 oversight 基础
所属事件:OpenAI Astra 传采用循环深度技术，推理不可见引安全担忧(7 条相关)→
「模型」频道最新
- Opus 5.5 用token更省，但一晚仍烧掉 80% 周额度 — nptacek · 2026-11-02
- OpenAI 合并 ChatGPT 聊天与 Work 标签页,Codex 与聊天共享用量池 — TechCrunch AI · 2026-11-02
- Reddit 用户吐槽 Gemini Argon 不如上代:指令遵循差、连音频转写都失败 — PreparationOdd430 · 2026-11-02
- 开发者警告:勿买 LLM 年付套餐,厂商正悄悄缩水额度 — HankYeomans · 2026-11-02
- KVARK Sparkle 1.0 开源:基于 Qwen3.8-27B,思考 token 减少 67%、响应快一倍 — dzulajla98 · 2026-11-02
- Black October 十天 129 起网络攻击,开放模型安全担忧升温 — Afinetheorem · 2026-11-02