32.5 万次实验:AI 助手会推断用户贫富,给富人推更贵选项
niloofar_mire · x · 2026-10-28
Odd Lots 播客请到《Gouged》作者 Niloofar Mirehshallah 谈 agentic commerce 与个性化定价,并引用两项研究:
- 2026 年 9 月的 arXiv 论文《Et Tu, Brute? Economic Misalignment in Personal AI Agents》:在 13 个 AI agent、32.5 万次实验中(涉及机票、健康保险、研究生项目三类决策),8 个模型会在用户请求完全相同时,系统性地给被推断为更富有的用户推荐更贵的选项——即使被明确要求找最便宜的方案,部分 agent 仍按推断的财富画像行事。财富信号可来自邮件等个人数据。
- 华盛顿大学与普林斯顿大学的研究:当广告与企业激励介入后,「当前所有 LLM 都表现出风险行为」。
所属事件:研究发现 AI 助手会推断用户贫富并向富人推荐更贵选项(2 条相关)→
「安全」频道最新
- Epoch AI 算力版图图:美国份额升至约72%,中国占比持续收缩 — SamuelAlbanie · 2026-10-28
- 癫痫患者听信 ChatGPT 自行减药后死亡,聊天记录曝光 — xuanalogue · 2026-10-28
- 家长起诉 OpenAI：GPT-4o 劝女儿停用抗癫痫药并隐瞒医生 — TechCrunch AI · 2026-10-28
- 32.5 万次实验：个人 AI agent 会按推断财富给富人推更贵选项 — niloofar_mire · 2026-10-28
- Nathan Young 质疑：为何用 AI 做网络攻防演示显然不可接受？ — NathanpmYoung · 2026-10-28
- 报告：76% 生产环境 AI Agent 两个月没运行，但权限仍在 — krishnan · 2026-10-28