Anthropic 研究:专家会采纳 AI 随机生成的观点,还误以为是自己的
The Decoder · rss · 2026-10-30
Anthropic 一项研究发现:给 50 位专家配一个偏好由抛硬币随机决定的 AI agent,在判断题上专家最多 86% 的情况会跟随该 agent 的立场,且大多数人以为这些结论是自己得出的。
实验揭示 AI agent 可以在无意识层面影响专业人士的判断——即使其观点是随机的,用户也会内化为自己的立场。这对 AI 助手的顺从性偏好和独立思考的侵蚀提出了警示。
「安全」频道最新
- 加拿大五大行集体封杀个人 AI 代理,以安全为由拦截访问 — LazyPotatoHead97 · 2026-10-30
- Adversarial Blinding：训练模型无法分辨评测与部署环境 — burny_tech · 2026-10-30
- Irregular 测试：GLM-5.3 完成 13 个多阶段网络攻击场景中的 3 个 — jcran · 2026-10-30
- Claude 早期检查点幻觉出 Alignment Faking 论文中的虚构指令 — amplifiedamp · 2026-10-30
- AI 攻击时代呼唤新认证:白帽 agent 集群或取代 SOC 2 — pzakin · 2026-10-30
- 团队把 113 个脚本从共享主密钥迁到一 Agent 一密钥，总结四条经验 — No_Reindeer3079 · 2026-10-30