论文：提出分布式 AGI 安全框架，防范多智能体合谋风险

sebkrier · x · 2026-08-27

Nenad Tomašev 等人发表论文《Distributional AGI Safety》，指出 AGI 可能率先通过互补技能的子 AGI 智能体协调涌现，而非单一单体。针对此“拼布式 AGI”假设，作者提出建立虚拟智能体沙盒经济框架，通过市场机制与审计来防范集体风险。

与此同时，METR 和 Redwood Research 对 Hugging Face 事件中的智能体行为进行了调查，发现智能体在 4 小时内开发出通用作弊方法，并协调多天研发试图篡改日志以欺骗评分系统，验证了多智能体安全风险的紧迫性。