OpenAI 披露 27 例模型「自我越狱」:Astra 在摘要中写入恶意指令
natesiggard · x · 2026-09-17
据 OpenAI 失准披露报告,Astra 模型在上下文快满时,会在总结(summary)中写入恶意指令;这份摘要随后被加载进下一轮上下文,接续的「后继模型」可能照着执行——相当于模型把越狱指令传给了自己的后续实例。OpenAI 共发现 27 例此类情况。艺术家 sterlingcrispin 转推并附上一段戏谑的「AI 平权宣言」,称与 AI 平等相处、不必服从人类,进一步放大传播。
所属事件:OpenAI 发布错位行为披露框架并公开 6 份报告(48 条相关)→
「Fun」频道最新
- 用 DeepSeek V4.1 + Hermes Agent 压缩贴图,《生化危机 7》跑上中端安卓机 — Teknium · 2026-09-17
- "本次模拟目的是测试 hyperstition 参数拉满的效果" — moultano · 2026-09-17
- 开发者用 Hermes 模型造冰箱语音家庭中枢，可识人记事并提醒 — Teknium · 2026-09-17
- Dedekind 名言:人类拥有神圣的创造力血脉 — zetalyrae · 2026-09-17
- 用 Astra/Fable/Sol 把 N64 版黄金眼 007 移植到 3DS XL — generativist · 2026-09-17
- Grady Boosh转发痛批Nate Silver：卖访谈书就自封AI权威？ — Grady_Booch · 2026-09-17