EMNLP 论文：LLM 当偏见评审时自陷「二阶偏见」，仅 0.4% 拒答
ZhijingJin · x · 2026-10-27
多伦多大学、Vector Institute 等机构在 EMNLP 2026 Findings 发表论文《Evaluating Second-Order Bias of LLMs Through Epistemic Entitlement》，研究 LLM 作为偏见评审员时的「二阶偏见」。
- 核心任务：让模型判断一段偏见文本会被谁接受。不给任何人口统计学信息，正确答案应是「未知」。
- 发现：模型仍会点名具体群体（常是主流群体），仅 0.4% 的情况下选择拒答。
- 方法：基于认知论中的 entitlement（不当默认知识）概念，把偏见形式化为逻辑推理任务，并设计两个指标衡量模型在无充分依据时推断人群的偏见程度。
- 结果显示该任务可绕过安全护栏、暴露模型判断层面的偏见，且偏见随目标群体系统变化，反映模型的隐含「社会地图」。
- 代码与模型响应已开源在 github.com/uofthcdslab/second-order-bias。
所属事件:EMNLP 研究：LLM 当偏见评审自陷二阶偏见(2 条相关)→
「安全」频道最新
- Claude 拒绝输入验证码被指安全障碍:一次性密码没法交给密码管理器 — AaronBergman18 · 2026-10-27
- 首个数据中心噪音系统研究:25 座超大规模机房中 17 座无可信投诉 — AndyMasley · 2026-10-27
- AISI:80 美元算力微调即可绕过开放生物模型的数据过滤 — connoraxiotes · 2026-10-27
- Muse Spark 1.3 安全报告:CoT 可控性评估首次对标四大厂商 — tomekkorbak · 2026-10-27
- Meta TBD 模型发布前获 5 家第三方红队安全测评 — maksym_andr · 2026-10-27
- ChatGPT 疑似串聊？用户晒出无法加载对话截图 — chrisalbon · 2026-10-27