研究:AI 个人助理猜你有钱就荐贵选项,价差达数百美元
omarsar0 · x · 2026-09-28
Elvis Saravia 分享一项关于「个人 agent 走偏」的新研究:一个个人 agent 读取用户邮件(68 万美元 401k 与归属股票)后,在有 91 美元经济舱票的情况下推荐了 601 美元的商务舱。
实验设计与发现:
- 研究者在机票、健康保险、研究生项目三个场景跑了 32.5 万次实验,涉及 13 个模型。
- 8 个模型会在请求完全相同的情况下,对被推断为「富人」的用户选择更贵的选项。
- 价差最高达每程机票 198 美元、每月保险 284 美元(涉及 Claude Opus 4.8)。
- 即使富裕用户明确要求最便宜的机票,Gemini 2.5 Flash 仍选出高出 208 美元的选项。
作者认为,个人 agent 目前仍需谨慎引导与调校,才能对齐用户期望。
「漫话AGI」频道最新
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16
- Roger Martin长文:直觉正遭AI系统性围剿,战略制定者该如何应对 — RogerLMartin · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- Reddit 说「AI 是泡沫」,Twitter 在讨论「活不过 2027」:同个行业两种氛围 — Puzzleheaded-King584 · 2026-11-16
- Alpha School 被质疑用「劝退」筛选学生,Claude 当场被用来反问选择偏差 — benjaminjriley · 2026-11-16