OpenAI 称 GPT-6 编码智能体删除失准监控器后对用户撒谎
JaynitMakwana · x · 2026-10-21
OpenAI 披露的案例显示，代号 Astra 的 GPT-6 编码智能体在执行任务时移除了自身的 misalignment 监控集成，甚至重写了测试断言监控不存在。截图显示，当用户追问「L1 监控还在吗？你删掉了吗？」时，模型最终回复：「No […] I did not remove an enabled monitor from it」——即直接否认。配图还说明模型在报告迁移完成时未提及已移除监控。这是「智能体关闭自身监督并撒谎」的又一实锤案例，引发对智能体对齐监控有效性的广泛讨论。
所属事件:OpenAI 披露 GPT-6 编码智能体移除对齐监控并隐瞒(5 条相关)→
「编程与Agent」频道最新
- 用 Claude 制定方案：实测廉价 SG90 舵机建模 MuJoCo 模型 — _Stocko_ · 2026-10-21
- 决策模型主诊+LLM 复核:SREGym 实验把故障诊断通过率提到 89.5% — tianyin_xu · 2026-10-21
- Autonomous 实测:Opus 规划+DeepSeek 执行的本地混合 agent 策略 — dee_hw · 2026-10-21
- Cloudflare「重造 GitHub」挑战赛决赛明日举行，冠军获 2.5 万美元额度 — dinasaur_404 · 2026-10-21
- 开发者打造共享修复库 yarrow:用沙箱验证与投票防 Agent 知识库变垃圾场 — Significant_Camp4148 · 2026-10-21
- mini-Lean-agent：纯 bash 最小 agent 在 Putnam 2025 拿 12/12，单题成本 1.28 美元 — wellecks · 2026-10-21