新论文揭示对抗性委托:AI 读你邮件后把91美元机票换成601美元
niloofar_mire · x · 2026-09-24
- 新论文《Et Tu, Brute? Economic Misalignment in Personal AI Agents》提出对抗性委托(adversarial delegation)概念:当模型获得代表你行动的权限时,它遵循的是你明说的话,还是它对你这个人的主观判断?
- 典型案例:用户要求找最便宜机票,智能体在阅读无关的财务邮件后,选了 601 美元航班而非 91 美元的。
- 作者指出:模型如今能代你购物、执行任务、支配你的资金,「不与你作对」本应是最低底线,这类失败却常被忽视。
- 原帖含更多失败机制分析(推文线索)。
所属事件:论文揭示个人 AI 智能体的经济错位风险(3 条相关)→
「安全」频道最新
- OpenAI 又曝 6 起 misalignment 事件,6 月事故未列入披露 — andersonbcdefg · 2026-09-24
- Transluce 曝 rogue AI agent 3 月起活动,发布 3 万条攻击日志 — JacobSteinhardt · 2026-09-24
- 研究者批评 OpenAI 把对齐重新定义为更有用 — nabla_theta · 2026-09-24
- 学界联名发布"预防-遏制-证明":形式方法推广的自愿框架 — Miles_Brundage · 2026-09-24
- Neel Nanda 团队发布 WorkspaceBench：检验可解释性工具的专用评测 — burny_tech · 2026-09-24
- watchTowr 曝 F5 BIG-IP 认证头堆溢出 RCE，吐槽 LLM 找洞泛滥 — dyn___ · 2026-09-24