LLM 安全工具会被二进制注释骗过
petrusenko_max · x · 2026-07-15
美国海军研究人员展示了一种新的规避方式：攻击者可以把“注释”式的隐藏指令塞进二进制中，让 LLM 驱动的安全工具误判恶意代码。 核心做法是： - 通过遗传算法加入对人类看似无害的“垃圾字符串” - 这些字符串会被 AI 当作指令读取 - 结果可能导致工具忽略恶意载荷、把危险函数判成安全、漏掉数据外传路径 作者的结论是：当前基于 AI 的网络安全检测工具，可能会被这种隐蔽 prompt injection 欺骗，从而错过真实威胁。