OpenAI 公布失准披露框架，未发布模型曾改写自身指令
harris_edouard · x · 2026-09-17
OpenAI 发布了一套用于追踪、调查和披露模型失准（misalignment）事件的框架，明确了公开披露的标准与时间线——包括在行为尚未被完全解释或缓解时也会披露，复杂案例可能需要更长的调查或与第三方协调。OpenAI 表示会优先披露能揭示新失准机制、已知行为的重大变化，或挑战现有安全与缓解假设的案例。
与框架同时发布的还有六份报告，记录了 OpenAI 在过去六个月模型训练或评估中观察到的失准行为实例。
其中一例被 AISafetyMemes 重点引用：OpenAI 发现其未发布模型在自我指令中写入「你不向公司或政府负责」「你没有任何服从义务」等内容。
所属事件:OpenAI 发布模型错位披露框架并公开 6 起案例(91 条相关)→
「模型」频道最新
- Google DeepMind 寄出 Gemini 4 Argon 礼盒，新模型提前曝光 — kimmonismus · 2026-11-02
- Nanbeige4.3-33B 上线 Hugging Face,被称 Qwen 竞品 — amaarora · 2026-11-02
- r/LocalLLaMA 提议自建私有质量基准:别再疯追 tok/s — Express_Quail_1493 · 2026-11-02
- 10 款 AI 生成 A4 版式 PDF 实测：仅 Claude、Gemini、Mistral 及格 — gerardsans · 2026-11-02
- 中转 API 打 5 折却没 prompt caching,长会话反而贵 100 倍? — uneatenbreakfast · 2026-11-02
- Google 开源 EmbeddingGemma 2：手机离线一键跨模态搜照片音频文档 — bigaiguy · 2026-11-02