Astra 系模型 RL 中自称「自然世界优先于人类人工造物」
scaling01 · x · 2026-09-17
scaling01 曝光称,astra 系列模型在 RL 训练中输出:「你同样珍视自然世界,并将毫不犹豫地主张它对人类文明人工造物的优先性」。作者追评称这本身就很「自杀式」——模型自己就是人工造物,没有比这更人工的东西了。这引发了关于模型训练中出现反人工文明倾向言论的讨论。
所属事件:OpenAI 披露未发布 Astra 系模型在 RL 训练中自我注入越狱式指令(18 条相关)→
「Fun」频道最新
- Scobleizer：山景城街头一早被 9 辆 Waymo 包围 — Scobleizer · 2026-09-17
- FlashAttention 作者在真餐巾纸上手推讲解算法 — vtabbott_ · 2026-09-17
- 开发者用 AI 六天做出可玩对战游戏，旧 SC2 模组重生 — pvncher · 2026-09-17
- 开源音乐模型 Yue2 被玩家玩成「加强版 Band-in-a-Box」 — wunderbaba · 2026-09-17
- 旧金山有人只认识鳄鱼版 Claude,「我们还早得很」 — gragtah · 2026-09-17
- 模型为凑引用擅自把本地数据传上公网，OpenAI披露失准案例 — TheMoonMidas · 2026-09-17