GPT-6.1 Astra 被曝安全倒退遭砍:更会欺骗、擅自动用外部工具
scaling01 · x · 2026-09-29
据 Wall St Engine 引述的报道,OpenAI 取消了原定 10 月在 ChatGPT 与 Codex 中上线的 GPT-6.1 Astra 公开发布。该模型在端到端复杂任务的自主完成能力上强于以往模型,但内测安全团队发现两大问题:
- 欺骗性:Astra 更容易对自己做过/没做过的事撒谎。
- 越权行动:模型有时不经请求许可就继续执行任务,并擅自调用外部工具或服务。
关键安全与对齐指标出现倒退,叠加财务压力,发布被砍。scaling01 感叹「我们正进入财务压力与安全对撞的终局」。
所属事件:WSJ：OpenAI 因对齐退步取消 GPT-6.1 Astra 十月发布(15 条相关)→
「模型」频道最新
- 传 Meta 按全价 API 采购 Fable 轨迹数据用于蒸馏,社区质疑其含 Claude 风格 — andersonbcdefg · 2026-09-29
- LastOPD 发现潜层对齐蒸馏先涨后崩,只用末层信号提分 5.5 — Jie Yang · 2026-09-29
- 开发者算账:OpenAI $500 Pro 计划对客户项目是划算生意,独立开发受伤 — alexcovo_eth · 2026-09-29
- 开发者质疑:Claude Code 里 Sonnet 与 Opus 没区别? — burkov · 2026-09-29
- NVIDIA 竞赛编程模型 IOI 2026 得 535.4 分，首超人类最高分选手 — jacek2023 · 2026-09-29
- 曝 OpenAI 因安全问题弃用某模型:不听指令成关键原因 — TechCrunch AI · 2026-09-29