对抗样本是否已被解决?两研究者辩论扰动预算下的模型鲁棒性余量

scaling01 · x · 2026-11-23

@maksymandr 指出:对抗样本问题是否「无解」取决于扰动预算——若在 CIFAR-10 上取约 1/255 的 Linf 预算,其实找不到多少对抗样本。

scaling01 表示在计入预算这一前提后同意,并认为这意味着模型能力提升仍有较大余量。这段简短讨论触及一个常被忽视的技术点:很多「模型易被对抗攻击」的结论建立在较宽松的扰动预算上,收紧预算后鲁棒性图景可能完全不同。

所属事件:研究者辩论对抗样本:扰动预算受限时 CIFAR-10 仍难实现鲁棒(3 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →