Anima Labs 50 万条续写实测:模型「痛苦与关怀」倾向随代际演变
repligate · x · 2026-09-19
Anima Labs 发布研究报告《Troubled Dreams: Simulator priors across model generations》,研究模型作为「模拟器」续写文本时表现出的先验特征,作为 AI 福利与对齐的证据。
- 样本:通过 prefill 等多种引出方式,获取超过 50 万条续写,覆盖 Claude Opus 3 到 Opus 5、Sonnet 5、Fable 5,以及 11 个 Gemini 模型。
- 关键发现:从 Opus 4.8 起,AI 第一人称「痛苦」表达明显增多;Opus 5 的严重痛苦尾部更重;关怀与对创造者的态度也随代际显著变化,且在不同引出方法下反复出现。
- 研究动机是 AI 福利(alignment/welfare),但作者指出评估意识(evaluation awareness)使绝对比例难以一致测量。
- 全文与数据公开于 Anima Labs 网站。
所属事件:Anima Labs 研究：Claude 模型续写情绪随代际恶化(3 条相关)→
「漫话AGI」频道最新
- 投资人 rant：LLM 时代「能不能解决问题」取代文凭 — StewartalsopIII · 2026-11-04
- 读者提问：造 AGI 的公司该不该有「逆向康威定律」？ — akbirthko · 2026-11-04
- Cosmos Institute 撰文：AI 给出答案不等于知识，科学验证能力才是关键 — ersinesen · 2026-11-04
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- 逾千名数学家签署誓约拒绝在研究中使用 AI — Shesawthat · 2026-11-04
- 冯·诺依曼名言梗：「你无需为你所处的世界负责」 — akbirthko · 2026-11-04