FairStress 后续：LLM 未被教过公平决策，9 种去偏法多数失效
allen_ai · x · 2026-10-21
FairStress 线程后续：研究团队考察训练数据对 LLM 决策偏见的影响，发现 LLM 从未真正被教授过公平决策，却普遍通过对齐训练来防止歧视——这可能解释了模型出现的过度矫正模式。
团队测试了 9 种减少差距的方法，大多数无法可靠提升对称稳健性，部分方法反而损害性能。BBQ 等旧基准会漏掉过度矫正现象，而 FairStress 能揭示这些被忽视的隐性不对称。
所属事件:AI2 发布 FairStress 基准：揭示 LLM 决策公平性的隐性不对称(8 条相关)→
「研究」频道最新
- 航空业的数据溯源思路：智能体如何在图结构数据上拼证据 — colinmcnamara · 2026-10-21
- SFT 阶段配方公开:指令/推理/代码/数学混训,不做多 epoch — TimDarcet · 2026-10-21
- 训练中期阶段揭秘:扩到 131k 上下文,「不要 logit,只要 token」 — TimDarcet · 2026-10-21
- 数学家 Daniel Litt 认输后谈 AI：能解题，但自动化不了数学研究 — ziv_ravid · 2026-10-21
- AI 制药真实现状：不是一句话治癌，而是海量结合筛选加毒性过滤 — burny_tech · 2026-10-21
- PyTorch 官方详解 IBM Spyre 后端：KTIR 与数据流调度器如何跑通 AI 加速器 — PyTorch · 2026-10-21