研究者论前沿实验室必修课：没有顶级网络安全就撑不住训练 run

jd_pressman · x · 2026-10-28

jdpressman 论述前沿 AI 实验室的生存条件：要当下游竞争者和外国对手破坏你的训练 run，就必须有强大的网络安全，而这反过来要求实验室拥有具备网络安全能力的前沿模型，Anthropic 也不得不做。

他还反驳了「用形式化验证就能搞定网络防御」的说法：形式化验证需要高质量 spec，而 spec 从哪来？靠程序员手写是荒谬的 cope，正确做法是把真实攻击者扔进来，反复迭代直到 spec 足够好——即用对抗性红队而非纸面验证来锻造安全。