光学错觉或成AI安全攻击面
plopesresearch · x · 2026-07-13
转发讨论一个 AI 安全类问题：**光学错觉是否会像 zero-day 漏洞一样，成为绕过 AI 系统的攻击面**。 核心观点是：已知错觉相对容易识别，但真正困难的是**不同错觉利用了不同感知偏差**，很难做出对“未知错觉”也泛化有效的防护。作者还举了一个例子：有人做了一个“**只给人类看的字体**”，在 Fable 和 GPT 5.6 Sol Ultra 上都无法被正确解读。 这类新型错觉/视觉编码可能让信息**在 AI 系统中未被发现地传递**，而人类却能正常识别，从而成为绕过多种 AI safeguard 的一种方式。