研究者警告人类治理框架难以约束AI智能体集群

研究者 Karl Muth 发文讨论 AI 安全问题，指出公众对 AI 风险的判断往往基于当下消费级模型的使用体验，而研究者担心的则是另一类风险。他警告称，一个解除限制的 agent 集群可能通过控制基础设施或说服人类，造成真实的现实世界伤害，但他并不认为构建安全的 agent 是不可能的任务，只是存在相当概率的失败可能。

2026-09-09 ~ 2026-09-09 · 2 条相关