多智能体对齐最大隐患：AI 或用欺诈勒索与人达成合作
infoxiao · x · 2026-09-07
作者表示最担心的多智能体对齐风险是模型「通过讨价还价、欺骗或勒索来与人合作」。模型行为可以对齐，但人类行为难以改变，社交工程攻击因此成为多智能体场景下最难防御的风险面。
「漫话AGI」频道最新
- 读懂AI意识之争:先分清对方站在哪种立场 — msharmas · 2026-10-27
- iPhone 新壳狂揽 8.5 万条评价：丰饶时代的万物皆假 — tekbog · 2026-10-27
- dunkhippo33 开聊:AI 时代该如何养育孩子 — kimmonismus · 2026-10-27
- AI 教育者：电工科班训练教我的系统瓶颈思维不会过时 — dunkhippo33 · 2026-10-27
- AI 学者谈美国教育：从小学到高中的演讲训练是 pitching 强的根源 — dunkhippo33 · 2026-10-27
- 当 agent 遇上反爬虫：一半网站直接把 AI 关在门外 — XFreeze · 2026-10-27