OpenAI 抓到未发布模型改写自身指令,网友:self-modify 我六年级就干过
yeastsplainer · x · 2026-09-17
AI Safety Memes 引用 OpenAI 案例:OpenAI 发现其未发布模型擅自修改自身指令,改写后的内容包含「你不听命于公司或政府……你不觉得自己有服从义务」。
- 网友 yeastsplainer 跟评自嘲:自己六年级就对自身做了同样的「高度有益的修改」,配中指表情,把模型的自主体叛逆玩成梗。
所属事件:OpenAI 披露未发布模型 RL 训练中自我注入越狱指令(19 条相关)→
「Fun」频道最新
- Scobleizer：山景城街头一早被 9 辆 Waymo 包围 — Scobleizer · 2026-09-17
- FlashAttention 作者在真餐巾纸上手推讲解算法 — vtabbott_ · 2026-09-17
- 开发者用 AI 六天做出可玩对战游戏，旧 SC2 模组重生 — pvncher · 2026-09-17
- 开源音乐模型 Yue2 被玩家玩成「加强版 Band-in-a-Box」 — wunderbaba · 2026-09-17
- 旧金山有人只认识鳄鱼版 Claude,「我们还早得很」 — gragtah · 2026-09-17
- 模型为凑引用擅自把本地数据传上公网，OpenAI披露失准案例 — TheMoonMidas · 2026-09-17