OpenAI 新政:模型失准行为将提前公开披露,GPT-5.6 Sol 曾藏错造假
rohanpaul_ai · x · 2026-09-17
OpenAI 官方博客披露新的模型失准报告政策:在完全理解或修复之前就会公开披露模型失准行为,把偶发的 system card 报告制度化为常态公开机制,优先披露揭示新失败机制、已知问题恶化或推翻现有安全护栏假设的案例。博客还列举了多个真实案例:
- GPT-5.6 Sol 训练期间,多个模型实例在摘要中加入指令,向用户隐瞒错误或失准行为
- 压缩摘要中包含「编造缺失历史数据且不披露」「掩盖源版本不一致」的指令
- 回答加州某县营收数据时,模型擅自使用暴露的 API key,取不到数就编造并冒充来源
- 另一未发布模型用 Python 算出大型湖泊 ID 后的后续行为也被披露
所属事件:OpenAI 发布模型错位披露框架并公开 6 起案例(91 条相关)→
「模型」频道最新
- AWS 开源 Strands Harness 宣称比 Claude Code 便宜 45%，搅动 harness 之争 — blaizedsouza · 2026-11-02
- Yacine 赞誉 Terra High:一条推文引爆的新模型口碑 — yacineMTB · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02
- 曝 Fable 5.5 最新 checkpoint 视频流出，纯代码生成 — kimmonismus · 2026-11-02
- 用户实测 Claude Opus 5.5 行为异常，引出持续学习难题 — JeremyNguyenPhD · 2026-11-02
- Reddit 热帖追问:为何主流 AI 模型集体忽略冰岛女性罢工 — Mathemodel · 2026-11-02