LLM 可能从经验中学出招聘偏见
MIT Tech Review AI · rss · 2026-07-20
一项新研究发现，LLM 在招聘情境中可能比人类更容易形成偏见。
普林斯顿大学和芝加哥大学的研究者把 ChatGPT、Claude、Gemini 等模型放进一个模拟招聘游戏里：模型需要在 40 轮中尽量做出成功招聘，但所有候选人的真实成功概率其实完全一样。结果是，模型在少量经验后就开始按虚构族群把候选人分配到不同职业，表现出明显的刻板印象和职业隔离。
研究要点包括：
- 在隔离评分上，人类参与者得分为 0.84，模型大约高出 65%，其中 OpenAI o3 达到 1.83，接近上限；
- 更强的推理模型（如 o3 和 DeepSeek R1）偏见更强；
- 仅仅告诉模型“要公平”效果不大；
- 如果额外奖励“多元招聘”，偏见会明显下降；
- 给模型更多与适应新环境相关的个人信息，也会减弱按族群分类的倾向，而无关信息则没什么帮助。
文章最后指出，这对现实中的简历筛选、面试、贷款、假释等场景都有重要意义：随着系统具备记忆和经验，它们可能会自己学出偏差，而不只是复现人类偏见。
「研究」频道最新
- UCLA 论文:扩散精力与接受宽容度双旋钮,拓宽投机解码速度-质量帕累托前沿 — UCLA · 2026-10-26
- 研究:Git 记录难以审计 AI 参与度,科研仓库需可审计溯源系统 — Koutian Wu · 2026-10-26
- 什么是融合版 DeepLIFT:绕开 hook 的梯度改写如何快 7 倍 — jmschreiber91 · 2026-10-26
- 新研究：AI 智能体谈判能力差，还会故意违约 — menhguin · 2026-10-26
- Cherimoya 融合版 DeepLIFT 合入 v0.3.1,同规模模型归因提速约 7 倍 — jmschreiber91 · 2026-10-26
- 生成式生物学基础设施 proto-tools 开源，CATv1 模型接入 — jmschreiber91 · 2026-10-26