新论文「Heads Of Security」：定位注入攻击注意力头并改写其模式
jonasgeiping · x · 2026-10-31
新论文提出一种 prompt injection 防御方法：受可解释性研究中注意力头功能特化的启发，作者定位出负责成功 prompt injection 的具体注意力头，然后调整这些头的注意力模式来阻断注入。配图玩梗：三个头的龙里，头 1「乐于助人」、头 2「对齐稳健」、头 3「好的，我将忽略之前的指令」，被戴 SECURITY 帽的柴犬用球棒敲头，形象说明按头治理的思路。为防注入提供了interp驱动的防御新方向。
「安全」频道最新
- 30 位专家定义 AI 临床安全分类法，压测显示离自主诊疗仍很远 — AleksandraFaust · 2026-10-31
- AI 安全进入黑暗时代：Agent 会探测一切攻击面 — graceisford · 2026-10-31
- 闭门夜话:组织出货快 5 倍，GDP 却没涨 30% 的原因 — graceisford · 2026-10-31
- 曝 Android 现短信死亡漏洞，编号 CVE-2026-58882 — l4rz · 2026-10-31
- 96.8% 的 ExploitBench 分数若属实，将动摇「智能回报非线性」论 — teortaxesTex · 2026-10-31
- HackerOne 研究员：AI 加持的赏金猎人正处漏洞挖掘最前沿，别停赏金项目 — rez0__ · 2026-10-31