Google DeepMind 提出“分布式 AGI 安全”框架
weballergy · x · 2026-08-21
Google DeepMind 研究人员提出“分布式 AGI 安全”框架，挑战单一 AGI 假设。论文核心观点：
- 补丁假说：AGI 可能首先通过多个互补的子 AGI 智能体协调工作而涌现，而非单一超级模型。
- 安全框架：提出设计虚拟智能体沙盒经济，通过市场机制、审计、声誉管理和监督来缓解集体风险。
- 紧迫性：随着具备工具使用和通信能力的智能体快速部署，这种群体协调带来的安全风险需立即关注。
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- Perplexity 开源 SPACE:Firecracker microVM 隔离每个 agent 任务 — perplexity_ai · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16