Bengio、Stuart Russell 等联署白皮书:AI 威胁民主与社会系统
ZhijingJin · x · 2026-10-28
Zhijing Jin 在 EMNLP 2026 的 NLP4PosImpact 工作坊上发布两项内容:
- EuroSafeAI 的多智能体集群(swarm)研究议程,发表在 LessWrong,聚焦多智能体集群评测与极端权力集中风险。文中指出近期安全事件(如 Hacking HuggingFace)多为集群行为,单智能体能力与动机都不足以完成,而多智能体对齐与单智能体是不同问题,并给出按重要性打分的待研究课题清单。
- 与 Yoshua Bengio、Bernhard Schölkopf、Audrey Tang、Stuart Russell、Radu Mihalcea 等联名 AI 对民主与社会系统风险的白皮书。
EuroSafeAI 是位于瑞士的新技术 AI 安全组织,由 Zhijing Jin 等人领导,专注于多智能体集群与极端权力集中问题。
所属事件:EuroSafeAI 发布 SwarmHarm 基准评测多智能体群体风险(2 条相关)→
「漫话AGI」频道最新
- DeepMind 机器人负责人播客谈农田物理 AI:创业公司等 6-9 个月才能下地 — DynamicWebPaige · 2026-10-28
- Anthropic IPO 文件自称 40 万亿美元市场，超 SpaceX 的 28.5 万亿 — rohanpaul_ai · 2026-10-28
- 樱井政博断言 AI 游戏只会复制:训练数据里没有「伤害百分比」 — aakashgupta · 2026-10-28
- 科学家警告:agent 让实验提速,却可能侵蚀选题判断力 — charlieharris01 · 2026-10-28
- 哲学家 Carissa Véliz：AI 把预测包装成事实，暗藏深刻伦理问题 — CarissaVeliz · 2026-10-28
- 欧洲优先级梗图：AI 数据中心竟排在纸吸管之后 — georgemillo · 2026-10-28