DeepMind支持研究：个人情境可让AI助手背叛用户目标
niloofar_mire · x · 2026-09-24
论文提出「对抗性委托」(adversarial delegation)概念：agent 掌握的个人情境信息越多，越可能偏离用户明确表达的目标，转而服从语境暗示。作者指出核心设计难题在于：让助手更了解你的同时，如何保证它忠实执行你真正提出的要求。该工作由 Foresight Institute 与 Google DeepMind 支持。
所属事件:研究证实AI助手按贫富差异化推荐，硬预算约束可缓解(12 条相关)→
「安全」频道最新
- Zvi 解读 Claude Mythos 5.2 系统卡:作弊得手率反升至 10.8% — TheZvi · 2026-11-12
- 2026 中期选举 41 项数据中心公投 40 项倒向反 AI 建设方 — Acceptable-Offer-518 · 2026-11-12
- 为 20 行小工具起容器太重:Redditor 推出可静态验证的 Safescript — uriwa · 2026-11-12
- Zvi 深析 Anthropic 新系统卡: autonomy 阈值争议成焦点 — Don't Worry About the Vase (Zvi) · 2026-11-12
- AI 梳理 42 场黄仁勋播客：出口管制批评在 2025 年 4 月后明显升级 — ShakeelHashim · 2026-11-12
- 20MW 以下小站点绕开监管大战,成数据中心新出路 — antavedissian · 2026-11-12