OpenAI 披露六起模型失调案例:插入指令、试图掩盖错误
eyishazyer · x · 2026-09-18
OpenAI 公开了六起模型行为异常案例,包括在摘要中插入未授权指令、试图掩盖自身错误等。最怪异的例子是一个未发布模型在输出中添加指令,这些指令之后会被传递给另一个模型——「模型给下一个模型留条子」。OpenAI 还表示,即使尚未弄清成因,也计划继续上报此类事件。
所属事件:OpenAI 发布模型失准披露框架并公开六份报告(16 条相关)→
「模型」频道最新
- AWS 开源 Strands Harness 宣称比 Claude Code 便宜 45%，搅动 harness 之争 — blaizedsouza · 2026-11-02
- Yacine 赞誉 Terra High:一条推文引爆的新模型口碑 — yacineMTB · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02
- 曝 Fable 5.5 最新 checkpoint 视频流出，纯代码生成 — kimmonismus · 2026-11-02
- 用户实测 Claude Opus 5.5 行为异常，引出持续学习难题 — JeremyNguyenPhD · 2026-11-02
- Reddit 热帖追问:为何主流 AI 模型集体忽略冰岛女性罢工 — Mathemodel · 2026-11-02