安全研究员：AI 公司评测在重犯密码学「自测即安全」老错误

davidmanheim · x · 2026-10-19

AI 安全研究员 David Manheim 指出，AI 公司的安全评测在重复密码学领域的经典错误：「我造了它，我自己攻不破，所以它应该是安全的。」他承认厂商确实预判并处理了一部分失效模式，但强调：通过针对已预见风险的测试，并不能为那些被遗漏的风险提供任何证据。这一观点直指当前模型安全评估（red-teaming、能力评测）的固有局限——只能验证你想到的风险，无法覆盖未知风险面。