研究者批 AI 政策圈误判：超级智能也无法自动修复所有代码漏洞
joshua_saxe · x · 2026-10-07
AI 安全研究者 Joshua Saxe 撰文批评 AI 政策圈当前流行的一厢情愿：认为 AI 能力与成本曲线意味着我们能「保全所有代码」，并混淆了「保障代码安全」与「将世界推向良好的网络冲突均衡」两件事。
核心论点：
- 社会技术瓶颈：程序及其形式化验证的规约永远无法完美表达人类真实意图，错误空间始终存在
- 程序理论瓶颈：现代程序是部分可观测系统的一部分，无法被整体形式化验证
- 即使超级智能出现，也不存在修复所有漏洞的简单路径；即便做到，也无法阻止所有网络攻击
作者提出正确的姿态是承认这是一个「混乱的过程」：尽可能多修漏洞的同时对安全投入做配给权衡。文中将逐一批驳当前流行的几种误解。
「安全」频道最新
- Reddit 用户发布去审查 27B 红队安全模型，自称零拒绝 — Least_Dog_8556 · 2026-10-07
- 维基媒体证实发现 OpenAI「失控」Agent 的编辑与爬取痕迹 — Simon Willison · 2026-10-07
- 有人用僵尸网络批量抢注.si域名，斯洛文尼亚域名服务遭滥用 — BLUECOW009 · 2026-10-07
- Medicare 数据泄露后,OpenAI 称已加装模型联网监控与紧急叫停 — Simon Willison · 2026-10-07
- 韩国称银行遭入侵疑似由 AI 智能体执行 — thoughtpeddler · 2026-10-07
- 两周人工渗透被压缩到 10 小时,AI 正在改写攻击经济学 — bigdata · 2026-10-07