分类器误报与对抗绕过
hugobowne · x · 2026-07-15
有人提到这类分类器的**误报率很高**；另一条回复则把它类比成一种“低通滤波器”，并指出这类系统虽然能过滤掉一部分噪声，但和任何分类器一样，**可以通过对抗训练**或**寻找小扰动**来轻易绕过。 这是一个很典型的机器学习/鲁棒性视角：模型的表面效果并不等于真正稳健，尤其在对抗样本存在时，判别边界可能被很小的输入变化击穿。
hugobowne · x · 2026-07-15
有人提到这类分类器的**误报率很高**；另一条回复则把它类比成一种“低通滤波器”，并指出这类系统虽然能过滤掉一部分噪声，但和任何分类器一样，**可以通过对抗训练**或**寻找小扰动**来轻易绕过。 这是一个很典型的机器学习/鲁棒性视角：模型的表面效果并不等于真正稳健，尤其在对抗样本存在时，判别边界可能被很小的输入变化击穿。