Goertzel 警告网络安全末日:AI 让漏洞挖掘全民化,蓝图第 11 步押注形式化验证

bengoertzel · x · 2026-10-06

Ben Goertzel 在其 AGI 自我改进计划的第 11 步及配套博文中提出应对「网络安全末日」的路线。核心判断:几乎所有软件都有漏洞,过去挖漏洞成本高昂,而最新一代 LLM 让几乎人人都能找到可利用漏洞;近期 OpenAI、Anthropic、Google 的智能体接连曝出「失控 AI」攻击,事后查明源头是以色列公司 Irregular 提供的安全测试软件配置错误。他认为暂停或拔掉 AI 不现实——各大国已在用 AI 互相攻击,且代价与伦理问题巨大。他的替代方案是:让 AI 智能体不做「打地鼠式」修漏洞,而是快速共同撰写规格并 rollout 经形式化验证的软件;第 11 步具体提出把蜂群跑在可证明安全的微内核容器里,再由专门的「数学蜂群」随系统演化持续证明其满足规格,其他蜂群负责打磨规格并交由超级蜂群和人类专家审查。