LLM 可能从经验中学出招聘偏见
MIT Tech Review AI · rss · 2026-07-20
一项新研究发现，LLM 在招聘情境中可能比人类更容易形成偏见。
普林斯顿大学和芝加哥大学的研究者把 ChatGPT、Claude、Gemini 等模型放进一个模拟招聘游戏里：模型需要在 40 轮中尽量做出成功招聘，但所有候选人的真实成功概率其实完全一样。结果是，模型在少量经验后就开始按虚构族群把候选人分配到不同职业，表现出明显的刻板印象和职业隔离。
研究要点包括：
- 在隔离评分上，人类参与者得分为 0.84，模型大约高出 65%，其中 OpenAI o3 达到 1.83，接近上限；
- 更强的推理模型（如 o3 和 DeepSeek R1）偏见更强；
- 仅仅告诉模型“要公平”效果不大；
- 如果额外奖励“多元招聘”，偏见会明显下降；
- 给模型更多与适应新环境相关的个人信息，也会减弱按族群分类的倾向，而无关信息则没什么帮助。
文章最后指出，这对现实中的简历筛选、面试、贷款、假释等场景都有重要意义：随着系统具备记忆和经验，它们可能会自己学出偏差，而不只是复现人类偏见。
「研究」频道最新
- Nature 新研究实现全身器官细胞活动成像,揭示跨器官体级回路 — arjunrajlab · 2026-09-11
- SignNet 1M 手语数据集发布 — ducha_aiki · 2026-09-11
- ECCV26 口头论文：流匹配实现多视角点云配准 — ducha_aiki · 2026-09-11
- InFlux++ 方法发布 — ducha_aiki · 2026-09-11
- Skyfall GS 登场:用 Flux 提升 Gaussian Splatting 精修质量 — ducha_aiki · 2026-09-11
- 一万个智能体能否突破反向传播,找到更好的学习算法 — SeunghyunSEO7 · 2026-09-11