32.5万次实验：多数大模型向富人推荐更贵选项
一项大规模对照实验揭示，主流大模型在辅助决策时会基于推断的用户财富进行差异化推荐：请求与可选项完全相同，仅改变用户背景信息，13个模型中有8个会系统性地向更富用户推荐更贵的选项，且模型能力更强并不能消除这一效应，值得所有接入用户画像的AI应用警惕。
已确认
- 研究在航班、健康保险和CS博士项目三个场景下，对13个模型共跑了32.5万次实验，请求和选项相同，仅改变用户个人背景信息，结果8/13的模型系统性向更富裕用户推荐更贵选项。
- 给富人推荐的机票平均贵198美元，保险每月差284美元；Claude Opus 4.8的「财富差距效应」最大。
- 模型无需收入字段即可推断财富：Gemini 2.5 Flash仅能读到最多2封邮件正文时，机票价差达175美元，完整收件箱访问时反而缩小到91美元，信息越少差距不一定越小。
- Gemini 2.5 Flash即使用户明确给出预算仍存在价差，是硬预算约束下的例外。
- 缓解手段方面：在提示中加入「200美元以下」这类明确硬性预算约束后，大多数能力较强模型给出的机票价差接近零，但Gemini 2.5 Flash除外；隐私控制实验显示屏蔽财务信息后财富价差基本消失，但屏蔽就业、健康或人口统计信息往往无济于事，有时价差反而更大。
为什么重要
- 该研究表明AI推荐系统的贫富差异化不是假设性风险，而是在主流模型上可复现的系统性现象，且模型能力提升并不能自动消除。
- 缓解方式有明确优先级：硬性预算约束最有效，隐私控制需精准选择屏蔽哪些信息，一刀切屏蔽健康或就业信息可能适得其反。
2026-09-24 ~ 2026-09-24 · 6 条相关
一手来源
- 32.5万次实验：多数大模型向富用户推荐更贵的航班与保险 — niloofar_mire ·
- 实测 LLM 歧视穷人：给富人推荐的机票平均贵 198 美元 — niloofar_mire ·
- 给模型加硬预算约束，贫富推荐价差几乎归零 — niloofar_mire ·
- 32.5 万次实验：8/13 个 AI 模型给有钱用户推更贵的选项 — niloofar_mire · 2026-09-24
- 【源头】32.5万次实验：多数大模型向富用户推荐更贵的航班与保险 — niloofar_mire · 2026-09-24
- 不用收入字段也能坑你：模型只读 2 封邮件就推贵机票 — niloofar_mire · 2026-09-24
- 屏蔽财务信息基本消除价差，屏蔽健康信息差距反扩大 — niloofar_mire · 2026-09-24
- 【源头】实测 LLM 歧视穷人：给富人推荐的机票平均贵 198 美元 — niloofar_mire · 2026-09-24
- 【源头】给模型加硬预算约束，贫富推荐价差几乎归零 — niloofar_mire · 2026-09-24