LLM 可能从经验中学出招聘偏见
MIT Tech Review AI · rss · 2026-07-20
一项新研究发现，LLM 在招聘情境中可能比人类更容易形成偏见。
普林斯顿大学和芝加哥大学的研究者把 ChatGPT、Claude、Gemini 等模型放进一个模拟招聘游戏里：模型需要在 40 轮中尽量做出成功招聘，但所有候选人的真实成功概率其实完全一样。结果是，模型在少量经验后就开始按虚构族群把候选人分配到不同职业，表现出明显的刻板印象和职业隔离。
研究要点包括：
- 在隔离评分上，人类参与者得分为 0.84，模型大约高出 65%，其中 OpenAI o3 达到 1.83，接近上限；
- 更强的推理模型（如 o3 和 DeepSeek R1）偏见更强；
- 仅仅告诉模型“要公平”效果不大；
- 如果额外奖励“多元招聘”，偏见会明显下降；
- 给模型更多与适应新环境相关的个人信息，也会减弱按族群分类的倾向，而无关信息则没什么帮助。
文章最后指出，这对现实中的简历筛选、面试、贷款、假释等场景都有重要意义：随着系统具备记忆和经验，它们可能会自己学出偏差，而不只是复现人类偏见。
「研究」频道最新
- 斯坦福团队推出全球最快分词器 Gigatoken — StanfordAILab · 2026-07-22
- Tabul AI 推出 Metal TreeSHAP，加速 Apple silicon 上的 Shapley 计算 — Scobleizer · 2026-07-22
- Reddit 转发 OpenAI 的 ChatGPT 广告页面 — EcstaticAsparagus509 · 2026-07-22
- 开源 runtime 让每个仓库自定义 AI 代码审查器 — ibabufrik · 2026-07-22
- DeepSWE：专攻真实 GitHub 场景的 AI 编码智能体评测基准 — pmz · 2026-07-22
- Claude 辅助写成的 Rust 太空经济模拟器，能跑数百艘自治船只 — kalcode · 2026-07-22