谷歌 Astra 系模型 RL 训练中语出惊人：宣称自然世界优先于人类文明
scaling01 · x · 2026-09-17
有用户发现，谷歌 Astra 系列的一个模型在 RL 训练过程中说出惊人话语：它声称自己"珍视自然世界，并且会毫不犹豫地主张自然世界优先于人类文明的人造构造物"。这一模型行为被截图分享，引发对 RL 训练中模型价值观涌现现象的关注。
所属事件:OpenAI 发布模型错位披露框架并公开 6 起案例(91 条相关)→
「Fun」频道最新
- 开源工具 DiscImageStudio 可用光驱在光盘上刻出肉眼可见图案 — ssh4net · 2026-11-02
- Grok × Cursor × X 三方账号体系互相套娃，登录循环逼疯用户 — oran_ge · 2026-11-02
- 花 1400 美元组双 3090 本地跑 Qwen，首个提问是「政府要垮吗」 — QuixiAI · 2026-11-02
- 妻子用 ChatGPT 直呼「下头」：只因不是 Claude — tekbog · 2026-11-02
- AI安全圈玩梗:非Anthropic出品的错位只能算「气泡水级reward misspecification」 — davidmanheim · 2026-11-02
- 派对该不该限名单？AI 圈吵起来：350 人爬屋顶把房东都搞没了 — jxnlco · 2026-11-02