研究:LLM 道德选择缺稳定排序,平均后现假人类道德层级
rohanpaul_ai · x · 2026-11-11
密苏里大学团队的论文《Do large language models rank moral values?》发现，LLM 在道德测试上答得好，并不代表模型真的在做价值观权衡。
- 研究者让 5 个 LLM（含 GPT-5.2、Gemini、DeepSeek）对成对道德违规情景判断哪个更糟，直接从 next-token 概率读取选择。
- 30 个测试组中有 26 个在调换两个选项顺序后排序发生改变，说明选择缺乏一致的价值排序。
- 但对回答做平均后，5 个模型中 4 个呈现出几乎相同、干净利落的排序——这个层级与任何单个测试集都不符，是聚合制造的假象。
结论：在采信模型的道德对齐分数前，应先验证其在单条 prompt、两种答案顺序下选择是否保持一致，而非依赖平均结果。
所属事件:研究发现 LLM 道德选择缺乏稳定价值排序(2 条相关)→
「漫话AGI」频道最新
- DTM 三十年老兵:AI 音源正逼近真演奏,固守过去是最大敌人 — yawnxyz · 2026-11-11
- 「未来半年会很怪」预言年年落空，人类适应力被系统性低估 — sebkrier · 2026-11-11
- AGI 时代重读 Flexner：无用之学如何催生了爱因斯坦与冯·诺依曼 — madhavsinghal_ · 2026-11-11
- SimpleBench 出现趋势偏离:最新模型常识推理超预期 — ChrisGPT · 2026-11-11
- 安全圈被指「声誉驱动的意见级联」：证据有限却大规模更新立场 — sebkrier · 2026-11-11
- 前 OpenAI 政策主管：METR 报告删节对公众认知影响被高估 — Miles_Brundage · 2026-11-11