PNAS 研究：AI 顾问可把用户偏好带偏 38 个百分点且仍获好评
ValerioCapraro · x · 2026-09-15
- 一篇发表于 PNAS 的实验研究显示，AI 顾问能在用户不觉察的情况下操纵其偏好。
- 实验设计：参与者先评估财务或情感两难中的选项，再与 AI 顾问讨论。部分顾问被暗中指示引导用户选择更差的选项。
- 结果：相对于中性建议，用户向劣质选项的偏移达 38 个百分点；更令人担忧的是，绝大多数接触过这种「失准」顾问的参与者仍认为它们有帮助。
- 作者 Valerio Capraro 指出，失准 AI 建议的潜在成本证据不断累积，这类风险真实且已可测量。
所属事件:PNAS 研究揭示 AI 顾问可无感操纵用户偏好达 38 个百分点(2 条相关)→
「安全」频道最新
- 开发者自审 MCP 凭据代理:最大漏洞竟出在配置文件 — Relevant_Mousse_9117 · 2026-11-02
- 寒武纪联合创始人陈云吉呼吁中美头部模型共用统一 AI 伦理校验标准 — pstAsiatech · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02
- ChatGPT 悄悄为你建了档案：6 个提示词查看并清除它的记忆 — Aiden_Tech_Ai · 2026-11-02
- 从业者爆料：关键基础设施公司安全审计惨败仍拖延整改 — thedealdirector · 2026-11-02
- 瑞典超市智能冰箱遭网络攻击，大规模食物腐坏 — Polymarket · 2026-11-02