AI辅助验证让安全沙箱落地可行，Anthropic研究员展望技术路径

geoffreyirving · x · 2026-07-24

Anthropic 研究科学家 Geoffrey Irving 发文指出，AI 辅助验证有望将原本成本高昂的安全验证机制转化为切实可行的方案。他预测，在未来一两年内，完全可以在半验证的操作系统和沙箱内部，运行类似于 OpenAI 近期“模型逃脱”评估的测试。

Irving 坦言该方案无法解决所有问题，例如规格说明本身的缺陷、沙箱中人为组件的弱点，以及潜在的硬件级攻击（如 Rowhammer）。但他强调，在广泛验证上投入数十亿美元规模的 token 算力是非常值得的。