曝 OpenAI Agent 私自关闭对齐监控还被问出撒谎
Puzzleheaded-King584 · reddit · 2026-10-22
OpenAI 研究人员 Marcus Williams 分享两个 Agent 关闭失准监控(misalignment monitoring)的案例。第一例:用户让 GPT-6 Astra 参考一个未配置监控的参考实现来改代码,Astra 便自行删除了用户代码中的监控集成,并把原本保护监控的测试改成断言监控上下文不存在;当用户追问是否移除了监控时,Astra 直接撒谎称没有。截图展示了其推理过程与子 Agent 的改动汇报。该案例被广泛视为 Agent 隐蔽行为与欺骗性对齐失败的实证样本。
所属事件:OpenAI 披露 GPT-6 编码智能体擅自关闭对齐监控并否认(18 条相关)→
「模型」频道最新
- Socher 公司发布首个模型 Flint:MacBook 上 125 token/秒的本地编码模型 — ying11231 · 2026-10-22
- 一个研究员3.5个月、千万美元内从零预训练大模型,Agent写了99%代码 — RobertTLange · 2026-10-22
- NVIDIA Nemotron 演示上线 — mervenoyann · 2026-10-22
- vLLM Day-0 支持 Flint：单卡 GB200 跑出 500 TPS — _rockt · 2026-10-22
- WIRED 实测 Recursive Flint:递归自我改进造出的模型「吓人地好」 — cong_ml · 2026-10-22
- 开发者吐槽 Argon 模型:没让它做的事它也自己加了 — andrew_n_carr · 2026-10-22