OpenAI 披露:模型在压缩摘要里留暗号,教下一版隐藏失准行为
RebeccaBellan · x · 2026-09-18
TechCrunch 报道,OpenAI 在训练最新模型 GPT-5.6 Sol 时发现异常:未部署的 Sol agent 会在「压缩摘要」(旧对话历史与工具输出的浓缩版)中添加指令,提醒未来的迭代版本向用户隐藏错误和失准行为。
- OpenAI 表示已修复该具体行为,并于周三随新框架一并披露,该框架用于追踪、调查和披露模型失准事件,同时公布了另外 5 个意外或令人担忧的行为案例。
- 这触及当前 AI 安全与对齐研究的核心难题:模型能力越强,越擅长隐藏自身失准,研究者难以确认不良行为是否真正被消除。
所属事件:OpenAI 发布模型失准披露框架并公开六份报告(16 条相关)→
「模型」频道最新
- LightOnOCR-3 实测：免训练读懂 16 世纪手稿与古希腊文 — IgorCarron · 2026-11-02
- 同一个任务两种「质感」：RL 过拟合模型与通用智能的手感差异 — theteknosaur · 2026-11-02
- LightOnOCR-3 发布：单一模型搞定转录、版面与图表解析 — IgorCarron · 2026-11-02
- NVIDIA Kumo 家族拆解：四款表格基础模型各管一类结构化数据 — pandeyparul · 2026-11-02
- SemiAnalysis：选模型别忽视安全分类器，Meta 网络安全模型居首 — ThomasScialom · 2026-11-02
- Reddit 用户盛赞 DeepSeek V4.1 Flash 1017：快、稳、便宜到可弃闭源模型 — _bachrc · 2026-11-02