Irregular 新论文：AI 安全攻守失衡，世界短期没准备好
moyix · x · 2026-08-18
AI 安全研究者 moyix 转评 Irregular 公司 Dan Lahav 的新论文《The End-State Fallacy: Where Is AI Security Going?》。论文背景：前沿模型在 2025 年秋编码能力大涨，2026 年 4 月波及网络安全，如今同样的事正在开源权重模型上重演；作者对长期乐观，但认为除少数玩家外世界短期内并未准备好。
核心论点
- AI 至少在中短期利好攻击方：利用漏洞比安全修复漏洞更容易。
- 缓解思路：加大对净利好防守方的能力投入，同时放缓或约束净利好攻击方的能力。
转评者看法
- Joshua Saxe（Snyk 首席产品官）方向上认同第一点，也认为第二点可作为政策工具；但困扰在于论文对「哪些能力净利好攻击方」做了先验假设而缺乏依据。
所属事件:新论文警示：AI 安全短期更利攻方，世界没准备好(2 条相关)→
「安全」频道最新
- 安全专家激辩：AI实验室是否有资格指导网络安全 — nptacek · 2026-08-18
- 评论 AI 生成低质量论文：无人理解且破坏学术激励 — thegautamkamath · 2026-08-18
- 前模型测试者争论：连闯三次红线是否应永久封禁 — nptacek · 2026-08-18
- 安全公司CEO遭批：出事只怪AI不担责 — nptacek · 2026-08-18
- METR 数据显示：2026 年 AI 加速了漏洞发现但未显著优化算法 — soumitrashukla9 · 2026-08-18
- NPR 关注 AI 自杀风险与心理健康影响 — KeanuRave100 · 2026-08-18