arXiv 论文:LLM 道德选择缺乏稳定价值排序,聚合答案造出假象
rohanpaul_ai · x · 2026-11-11
arXiv 论文《Do large language models rank moral values? A transitivity test of moral competence》测试了 LLM 道德能力的一个必要条件:其道德选择能否被一个稳定的序数排序表示(即满足传递性)。
- 研究者让 5 个 LLM(含 GPT-5.2、Gemini 等)在道德价值冲突的场景中做两两取舍,从首 token 分布提取选择概率,并与三种随机传递性选择模型对比
- 结果:大多数选择集只呈现弱或不稳定的排序,说明 LLM 的道德回答并不代表其在权衡相互竞争的道德价值
- 关键发现:对模型回答取平均(LLM 道德评测的常见做法)会制造出一个不对应任何单个选择集的、看起来像人类的传递性道德层级——是聚合造成的假象
- 结论:评测 AI 道德应先验证选择是否有结构,再谈对齐
所属事件:研究发现 LLM 道德选择缺乏稳定价值排序(2 条相关)→
「研究」频道最新
- EarthRecord 基准：用四十年卫星影像实测多模态 Agent 的土地变化分析 — AIEyesTech · 2026-11-11
- WaveGen 提出 Spectral Forcing，跳过编解码器实现端到端文本转波形 SOTA — Ajou · 2026-11-11
- 伯克利 Social Humanoid:让 Unitree G1 学会与人社交互动 — berkeley_ai · 2026-11-11
- 学界泼冷水：机器人未解决，最佳模型距产线部署差六个数量级 — ZeeshanZiaML · 2026-11-11
- 可解释性研究发现：Qwen3「说的」与「做的」用不同神经元 — Sauers_ · 2026-11-11
- Google 发布 AudioFM 音频基础模型，日均在 Google Home 跑 20 亿次预测 — umpedronosapato · 2026-11-11