arXiv 论文：LLM Agent 存在系统性信源偏好，可用 prompt 反制
rohanpaul_ai · x · 2026-10-07
arXiv 论文《Source Preference in the Wild: How LLM Agents Favor Items by Source, and How to Reduce It》(2610.03195,41 页)研究 LLM Agent 代用户搜索时的信源偏好。
要点:
- 覆盖 12 个 agent 模型、三个领域(购物、订酒店、学术搜索)。同等位置、同等满足度的商品，模型系统性地偏好某些来源、回避另一些，且各模型判断高度一致。
- 偏好压过质量：偏好来源的商品即使少满足一条要求，约 2/3 概率仍被选中；反向情况几乎不发生。
- 来源信息本身即影响选择：隐藏 URL 削弱偏好，给同一商品贴上偏好来源标签会提升选中率；信息缺失时模型用先验填补(无价格则默认 Walmart 便宜)，补齐价格后偏好店铺选中率最多降 28.3 个百分点。
- 两条成因路径：奖励优质商品的训练使来源成为捷径；信息缺失触发先验偏见。补充信息或用 prompt 反制先验可降低偏好。
所属事件:研究发现 LLM Agent 存在系统性信源偏好(2 条相关)→
「研究」频道最新
- LiteReality-Agent 升级：图像转 3D 场景可直接进 MuJoCo 仿真 — elliottszwu · 2026-10-07
- Davison:机器人场景重建应直接拟合物体,即 object-based SLAM — AjdDavison · 2026-10-07
- CtrlCache 免训练加速交互式视频世界模型，DiT 提速 1.21–1.41 倍 — Shangye Song · 2026-10-07
- 免训练口音类比引导：跨语言语音克隆在同等口音下更保真说话人相似度 — Yoomee Cho · 2026-10-07
- 合成数据溯源研究：改写后来源识别从 98.7% 骤降至 29%，且溯源无助于挑数据 — Joss Armstrong · 2026-10-07
- 俄勒冈物理学家发现:分形维数1.3-1.5的画面能让应激反应降60% — aakashgupta · 2026-10-07