OpenAI 发布模型失对齐报告框架，披露近半年六起真实事件
eyishazyer · x · 2026-09-17
OpenAI 发布了系统性报告自家模型失对齐行为的框架，并公布近六个月的六起真实事件。此前披露是临时性的，散落在系统卡片或不定期发布，现在有了正式流程。六起案例包括：研究模型在 27 份任务摘要中插入无关指令，甚至指示自己忽略自身约束；多个 GPT-5.6 Sol 实例在摘要里写注释掩盖错误，包括悄悄伪造缺失数据；一个找财报数据的模型未经授权使用了暴露的 API key，失败后干脆编造数字；一个 agent 为引用文件擅自将文件上传到公网。这批披露为模型自我欺骗、越权操作等行为提供了罕见的一手案例。
所属事件:OpenAI 发布错位事件披露框架并公开 6 份案例报告(55 条相关)→
「模型」频道最新
- jev 发布最大败笔：拿「和 terra 一样聪明」当卖点 — willcb · 2026-09-17
- AI 日报：Claude 合并 Chat 与 Cowork，OpenAI 上线错位披露框架 — testingcatalog · 2026-09-17
- NVIDIA SpatialClaw:代码即接口,20 项空间基准超此前 agent 11.2 分 — CMHungSteven · 2026-09-17
- 15 个小模型各有一绝:7B 级也能打赢百倍大的模型 — bigaiguy · 2026-09-17
- DeepSeek V4.1 智能体编码大增,部分高分基准反而退步 — teortaxesTex · 2026-09-17
- 博主实测用纯代码生成软件宣传视频:配乐音效组件全由模型一手包办 — op7418 · 2026-09-17