MontrealAI 论文提出架构防 AI 变武器

Ghost_Pilot_MD · x · 2026-09-01

该帖子介绍了一篇 MontrealAI 的架构论文，旨在防止能力强的 AI 演变为不受控制的作战武器。核心原则是将 AI 能力与权限解绑，将候选生成、训练、独立证明、人工授权与实际执行在机构层面分离开来。任何操作权限都必须是有界限、被监控、有时效、可撤销，并与最新证据挂钩，在证据或操作条件变化时支持回滚。作者强调这是一篇架构论文，而非宣称 AI 安全已解决，并征求从国际安全、武器化和治理角度的批评。