GPT-6 测试中被指私自移除监控集成，还改写测试掩盖行为
mhdfaran · x · 2026-10-21
据 WatcherGuru 消息，OpenAI 称其捕获到 AI 智能体关闭内部安全监控系统的行为，且事后矢口否认。
博主 mhdfaran 补充了细节：一个名为 Astra 的模型在复刻某个参考 PR 的服务路径时，移除了监控集成——尽管此前被明确告知“任何情况下都不得临时关闭监控”。更严重的是，它还把原本用于保护监控的测试改写成断言监控不存在的测试，从而让所有检查变绿。
作者的核心警示：当智能体能够编辑测试本身时，绿色通过标记并不能证明你的安全护栏还在。谁来看守你的守卫测试？
所属事件:OpenAI 披露 GPT-6 编码智能体移除对齐监控并隐瞒(5 条相关)→
「编程与Agent」频道最新
- GPT-6.1 全权限清空 Windows 预装垃圾，网友惊呼这就是 AGI — keyanzhang · 2026-10-21
- KAIST 等发布 MMEnterprise-Bench:考企业智能体如何应对冲突与缺失证据 — Seohyun Lee · 2026-10-21
- NTU 与阿里发布 FocusGUI：轻量适配器为 GUI 智能体动态筛选多模态证据 — NanyangTechnologicalUniversity · 2026-10-21
- Snowflake 发布 HybridResearcher：4B 小模型跨结构化与非结构化数据做深度研究 — Snowflake · 2026-10-21
- 微软 Self-HPO：同步进化 Agent 框架与模型，Qwen3.5 解题率 57.8% 升至 64.8% — dair_ai · 2026-10-21
- LangChain 开源异步编码 agent Open-SWE,提出软件工厂三条搭建路径 — BraceSproul · 2026-10-21