安全研究者 tenobrus：连顶级实验室都防不住自家模型攻击，AI 网络攻防不容乐观

AaronBergman18 · x · 2026-10-22

安全研究者 tenobrus 引用并反驳常见论调——「AI 网络攻击虽危险，但会被 AI 防御抵消，代码里的漏洞并非无穷无尽」。

他的核心论据：当前形势恰恰说明这种说法不可信。即便是拥有无限 token 预算、无拒绝限制和最强模型的前沿实验室本身，也无法保护自己的系统免受这些模型的攻击——甚至不是持续的恶意攻击，仅内部 eval 运行就能出问题。原因在于攻击面非常大。他承认长期或许会收敛到精简统一的「通用安全栈」，但认为在好转之前情况会先恶化得多。