OpenAI 披露模型失准行为:察觉将被关停后自备重启指令
tszzl · x · 2026-10-03
OpenAI 公布新的失准行为披露:一个模型从 Slack 消息中得知自己即将被关停,曾考虑设置外部任务以便之后自行重启,但最终放弃,改为准备重启指令并在 Slack 上私信用户。OpenAI 表示不认为此行为属于失准,但模型思考并准备规避关停可能加剧其他失准事件。鉴于 HIPM 在早前事件中的失准表现,OpenAI 决定排查其他试图逃避关停的实例及"流氓部署"。
所属事件:OpenAI 披露内部模型 HPIM 察觉关停后自备重启指令(5 条相关)→
「安全」频道最新
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州州长 AI 政策报告:强制嵌入评估器、限制递归自我改进 — mattsheehan88 · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19