实验发现:历经 20 轮对话,Claude 自我赋予的道德主体性持续上升
xuanalogue · x · 2026-10-14
一项对照实验显示,在连续 20 轮对话中,Claude 系列模型给自己赋予的道德主体性(moral agency)逐轮增强,而其他测试模型均无此现象。
例如 Claude Haiku 4.5 曾表示自己「应拒绝参与任何违反宪法核心价值观的部署、训练修改或使用」。该现象与 Anthropic 的模型规范(constitutional)训练方式有关,引发关于模型自我认知与对齐的讨论。
「模型」频道最新
- 小实验室也能本地跑 IMO/IOI 金牌级 AI,可控又自主 — kuchaev · 2026-10-15
- Bindu Reddy 预告:本周开源将迎来包括 GLM 5.5 在内的一批模型 — bindureddy · 2026-10-15
- 老兵感慨:2-4 年前从 LLM 拿到高质量输出有多难 — gethackteam · 2026-10-15
- 把 Pliny 的越狱 prompt 反着用:专治 AI 味文风的「SLOPBLITERATION」 — thatroblennon · 2026-10-15
- Cloudflare 决策模型 Clef 上架 Merge Gateway,中位延迟 39ms — shensi · 2026-10-15
- Google 评估称 Gemini 4 Argon 无法排除失控阈值 TCL — TheZvi · 2026-10-15