Redwood 研究员批 OpenAI 禁用 reasoning 反而损害可监控性研究
RyanGreenblatt · x · 2026-09-06
Redwood Research 的 Ryan Greenblatt 发长文批评 OpenAI 关闭公开 API 的 reasoning=None 选项。OpenAI 暗示这是出于安全/监控考虑——Astra 有更强的潜藏推理能力、更不依赖 CoT——但 Greenblatt 认为这恰恰说明研究无 CoT 能力更重要:
- 禁止公众关闭推理并不能消除可监控性问题:开启推理时模型仍可能在内部潜藏推理而不外显,而这才是能力更强、更值得担心的情形
- 他推测 OpenAI 真实动机更可能是防越狱或防蒸馏
- 关闭推理选项历来是测试模型隐蔽越轨(subversion)能力的重要手段;Anthropic 对 Fable 也同样不允许关闭 CoT,这不是一家的问题
- 他建议厂商推出低门槛的研究者访问计划,开放包括禁用推理在内的更多 API 能力
结论:厂商应明确承认「不允许关闭推理」对可监控性科学是实质性伤害。
所属事件:OpenAI 下架 reasoning=None 引发研究员误判风波(2 条相关)→
「模型」频道最新
- 去审查版 V4.1-Flash 评测：抽象代数跌 6 分，大学数学反涨 5 分 — teortaxesTex · 2026-10-23
- Claude 每小时弹「模型容量已满」,付费用户怒问该不该退订 — Alex-Stack · 2026-10-23
- Kimi K3.1 发布在即，3T 参数+3 个月 RL 被视为成败关键 — teortaxesTex · 2026-10-23
- 多个 Hugging Face 模型突然消失,含「去审查/攻击性安全」微调版本 — umarmnaq · 2026-10-23
- Claude 菜单现神秘模型代号 Fable，博主用量已爆表 — ezshine · 2026-10-23
- 开发者实测：Sol 6.1 的前端代码能力相当不错 — Dimillian · 2026-10-23