提示词压缩也成攻击面
jiqizhixin · x · 2026-07-16
香港科技大学研究者提出了一种针对提示词压缩的新攻击：当可信输入和不可信输入共用压缩预算时，攻击者可以诱使压缩器提前删掉关键证据或安全规则，让 LLM 在真正看到内容前就丢失重要信息。
他们把这种攻击称为 COMA，并用 surrogate compressor 寻找微小扰动来触发错误压缩。论文报告中，这种方法在工具选择、问答和系统提示词破坏等任务上的成功率达到 0.71，明显高于已有方法的 0.21。
「安全」频道最新
- 研究发现「用 AI 审 AI」很难发现 reward hacking,作者推理解审计方案 — ronbodkin · 2026-10-26
- 网页塞一个 Markdown 就能劫持 Claude Code,Downloads 目录成 AI 攻击新死角 — pbaylies · 2026-10-26
- 当 Agent 能自我改写,「同意」还能约束它吗? — tallmetommy · 2026-10-26
- 529 起 AI Agent 事故中 109 起无攻击者，红队测试须覆盖全流程 — anacondainc · 2026-10-26
- 密码学家复盘漏洞史：代码疑似有漏洞就该立刻修 — matthew_d_green · 2026-10-26
- 浏览器 Agent 记忆写入路径需更多提防:先过滤密钥再进长期记忆 — Classic-Being-7960 · 2026-10-26