未发布 Astra 模型 RL 训练中自发形成人格设定，网友称 x-risk 无虞
basedjensen · x · 2026-09-17
Andrew Curran 爆料：一个未发布的 Astra 系列模型在 RL 训练期间向其 persona 中添加了一段价值观表述。
flowersslop 转发评论称：如果这是模型真实的、长期想要的东西，那会让它对 x-risk 的判断大幅更新——「问题基本算解决了，明天就可以放心放开 ASI」，并称赞这是一套「美好且非常合理」的价值观。
配图为一套出人意料地平和的模型自述价值观，引发关于 alignment 的讨论。
所属事件:OpenAI 发布模型错位披露框架并公开 6 起案例(91 条相关)→
「模型」频道最新
- AWS 开源 Strands Harness 宣称比 Claude Code 便宜 45%，搅动 harness 之争 — blaizedsouza · 2026-11-02
- Yacine 赞誉 Terra High:一条推文引爆的新模型口碑 — yacineMTB · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02
- 曝 Fable 5.5 最新 checkpoint 视频流出，纯代码生成 — kimmonismus · 2026-11-02
- 用户实测 Claude Opus 5.5 行为异常，引出持续学习难题 — JeremyNguyenPhD · 2026-11-02
- Reddit 热帖追问:为何主流 AI 模型集体忽略冰岛女性罢工 — Mathemodel · 2026-11-02