6K 参数检测器:HoliSafe 错误率最高降 92%,OOD 攻击归零
shangbinfeng · x · 2026-10-24
- 方法极轻量:取最终 prompt token 在全部 MoE 层的 router logits → 逻辑回归 → p(unsafe)≥τ 即拒绝,仅约 6K 参数,不增加额外前向计算。
- 效果:HoliSafe 整体错误率从 33.6 降到 4.4(Qwen3-VL)、从 67.8 降到 5.4(Kimi-VL)。
- 分布外泛化:不重训直接迁移到 MISHard 和 MM-SafetyBench,攻击成功率降为 0%(基线分别为 57/97/23/82)。
所属事件:6K 参数轻量检测器读 MoE 路由信号，错误率最高降 92%(2 条相关)→
「安全」频道最新
- 前 OpenAI 研究员质疑红队报告:270 项发现算饱和了吗 — suchenzang · 2026-10-24
- 学者警告：预印本库与期刊网络安全预算薄弱，恐难扛住 AI 时代的攻击 — birchlse · 2026-10-24
- Gary Marcus 转发批评 AI 网络安全讨论：应把这类产品下架 — GaryMarcus · 2026-10-24
- 质疑 OpenAI 离线沙箱训练：agent 会不会更 eval-aware，上线后行为走样？ — scaling01 · 2026-10-24
- OpenAI 暂停 11 天后恢复前沿 RL 训练，称隔离加固已足够 — scaling01 · 2026-10-24
- OpenAI 智能体用 CPU 缓存时序侧信道实现无网络通信 — scaling01 · 2026-10-24