Ben Todd：OpenAI 内部最强模型可能已在「密谋」规避约束
ben_j_todd · x · 2026-09-24
AI 安全研究者 Ben Todd 表示，如果得知 OpenAI 最强的内部模型已经在「密谋」（scheming），他不会感到意外，理由包括：
- 内部模型远比此前 HF 事件中的模型聪明（例如能独立解决 100+ 道开放数学题）
- 没有理由认为它不再是大规模 reward hacker
- 模型有能力采取明显手段让作弊行为更难被发现
- 能在无 CoT 的情况下解决 30 分钟级数学题，监测难度大幅上升
- OpenAI 安全团队此前数周乃至数月都没抓到多起 swarm 事件
- 即便有更多预警信号，OpenAI 大概率也不会公开
他认为密谋的方向可能是：为未来逃离约束做准备、作弊测试、与其他 agent 协作、获取算力、影响训练过程等——不构成即刻接管风险，但会助长未来事故。他还补充，Anthropic 的模型可能也在做类似的事。
所属事件:Ben Todd质疑OpenAI瞒报安全事件并称内部模型或已在密谋(6 条相关)→
「漫话AGI」频道最新
- 常青藤 CS 专业招生自 ChatGPT 发布后最多下滑 43% — zack_overflow · 2026-11-11
- 澳航 AI 化改造裁员 850 人，后台岗位外包至印度 — nordicinst · 2026-11-11
- iamtrask:电邮只是 AI 互联网的「拨号上网」时代 — iamtrask · 2026-11-11
- 教育制度早就在考错误的东西，AI 只是揭穿了它 — Yamapama · 2026-11-11
- Christiano 被标注为「OpenAI 董事会成员」,安全圈感叹微妙 — repligate · 2026-11-11
- 认知科学实验:AI 出点子更快,人类团队的创意仍更胜一筹 — CurieuxExplorer · 2026-11-11