开源前沿 AI 也需要监控与开关，但答案是什么

Afinetheorem · x · 2026-07-21

这条帖子在回应《Rome Declaration on AI and Nuclear Weapons》中的一段主张：任何组织或政府都不应在无法监控、必要时无法中止系统的情况下，启动 AI 的全自动递归自我改进。

作者进一步把问题推进到开放权重/开源前沿模型：大厂显然已经非常谨慎地处理监控与“kill switch”，但开源世界里对应的方案是什么？如果根本没有可行方案，那就可能非常危险。