OpenAI Astra 用「递归深度」新推理路径,但思维过程更难监控
JacquesThibs · x · 2026-09-05
The Information 报道,OpenAI 的 Astra 模型采用一种叫「recurrent depth(递归深度)」的新推理方法。这种做法有助于控制模型成本、提升性能,但研究者担忧:它会掩盖模型的思考过程,让外部更难监控模型内部到底在算什么。
转发者 Jacques Thibs 借此表达对 AI 安全研究的担忧:透明度受限正让安全研究日益困难,这让某些「Plan A」路线看起来越来越诱人。核心张力在于——推理架构越高效、越不透明,对齐与监督的难度就越高。
所属事件:OpenAI Astra 传采用循环深度技术，推理不可见引安全担忧(7 条相关)→
「模型」频道最新
- 开发者实测:Gemini Argon 分析调试日志优于 Fable 5.1 — ShikharMurty · 2026-10-21
- 用户让 ChatGPT「尖叫」，它陷入无限循环 AAAAHHH 停不下来 — AutomaticScene · 2026-10-21
- 开源新模型 Ornith-1.5-122B 发布:SWE-bench 84.5%,单卡 DGX 可跑 — _akhaliq · 2026-10-21
- qev-0.8B:3.5毫秒决策、1.3GB本地跑的微型模型登顶 — fajfas3 · 2026-10-21
- Gemini 3.1 Pro 玩「两真一假」：bot 太沉迷账本，秒被识破谎言 — mimi10v3 · 2026-10-21
- 1.3B 开源模型 OXR 登顶三大文档解析榜，百页 101 秒 — aftahi_ai · 2026-10-21