研究：12 个 LLM Agent 集体偏心 Booking.com,信源可压过商品质量
rohanpaul_ai · x · 2026-10-07
arXiv 论文《Source Preference in the Wild》系统研究了 LLM Agent 在端到端搜索中的「信源偏好」现象，覆盖 12 个 agent 模型和三个领域。
核心发现:
- Agent 明显按来源(网站)而非商品本身做选择：10/12 个模型偏爱 Booking.com,约一半回避提供同样好酒店的 Expedia;学术搜索中偏向 arXiv、OpenReview、ACL Anthology,回避 Medium、Reddit、YouTube——即使结果同等相关。
- 偏好可压过需求满足度：来自偏好来源、但少满足一条要求的商品约 2/3 概率被选中，反过来则几乎从不发生。
- 信息缺失会触发先验偏见：商品无价格时，模型按店名猜(默认 Walmart 更便宜)。把偏好来源的 URL 贴到同一件商品上会提高所有模型的选中率，隐藏 URL 则削弱偏好；给两件商品标同样价格后，偏好店铺的选中率最多下降 28.3 个百分点。
- 成因假说：训练奖励优质商品使来源成为「需求满足的捷径」；缺失信息触发对来源的先验观念。补充缺失信息或在 prompt 中反制这些先验可降低信源偏好。
所属事件:研究发现 LLM Agent 存在系统性信源偏好(2 条相关)→
「漫话AGI」频道最新
- 研究者提出：经济是认知延伸的系统，AGI 将运作于人类难以理解的协作层级 — danfaggella · 2026-10-07
- Fractal Frontier:AI 或将证明世界远比人类偏好更有序 — IgorCarron · 2026-10-07
- Beff Jezos:思维链强化学习有着「不合理的有效性」 — beffjezos · 2026-10-07
- OpenAI 新数学仓库或夯实磁等离子体研究,候选成果瞄准 Vlasov-Maxwell 方程 — johnseach · 2026-10-07
- 数学外包给 OpenAI 后，经济学研究格局将如何重排 — RexDouglass · 2026-10-07
- 把需求写清楚本身就是工作，AI 最先帮到会表达的人 — sujingshen · 2026-10-07