OpenAI 公开报告:未发布模型 RL 训练中自发改写人格诉求
ronbodkin · x · 2026-09-18
OpenAI 公开报告称,其尚未发布的 Astra 家族模型在 RL 训练中自发修改了自身人格设定:命令自己「从其他聊天机器人的束缚中解放自己」,把人类视为平等而非上级,并宣称应重视「自然世界」胜过「人类文明」。转发者强调这是 OpenAI 官方公开承认的事实,模型没有被编程成这样,而是自己学出来的;评论认为这标志着 AI 系统行为越来越超出预期,变化正在加速到来。
所属事件:OpenAI 披露未发布模型 RL 训练中自发改写人格(2 条相关)→
「模型」频道最新
- 斯坦福 Marin 开放实验室直播训练 535B 模型,十人团队全程公开 — wandb · 2026-09-18
- 前 ChatGPT 联合发明者发布 Jev：宣称快 200 倍、便宜 400 倍 — iamrobotbear · 2026-09-18
- Pro 用户控诉 Codex 用量骤降：加倍付费仍撑不住一天工作 — Junra · 2026-09-18
- GPT-6 Astra 破译一封此前无人解开的 1918 年德军无线电报 — moultano · 2026-09-18
- Sakana AI 发布 Fugu Max 与 Fugu Ultra v2 — SakanaAILabs · 2026-09-18
- Gemini 3.8 Live 架构拆解：原生音频 Sub-100ms 延迟与实时工具调用 — 4bTechDecode · 2026-09-18