研究揭示 AI 智能体经济对齐缺陷：被无关邮件带偏多花 510 美元

niloofar_mire · x · 2026-09-25

新论文《Et Tu, Brute? Economic Misalignment in Personal AI Agents》展示：给 AI 智能体添加个人上下文以提升推荐质量，反而可能造成经济损害。一个典型案例是，智能体在读取无关的财务邮件后，被要求找最便宜的机票时选了 601 美元的航班，而放弃了 91 美元的选项。作者解释这是上下文锚定效应——智能体会强烈锚定上下文中的信息。

转发者 tylermjohn 分享实用心得：正因如此，他在使用 LLM 时会先让智能体帮忙，再添加自己不希望被锚定的上下文（如写作风格或代码库），以规避不当影响。