论文揭示 Agent 技能文件并不安全,泄露率超八成
dair_ai · x · 2026-08-30
一篇新论文测试了隐藏 Agent 技能文件是否能有效保护它们,结论令人担忧。攻击者无需受害者揭示技能或评估重构结果,仅利用服务执行普通任务时产生的数据即可重建多文件技能。
在最弱权限访问下(攻击者仅能看到最终响应和返回文件),该方法在 7 个技能和 4 个受害模型上恢复了原技能 86.8% 的能力。这比 SigLeak 高出约 4 倍,且每个技能仅需中位数 32 次受害者调用,即使启用了披露防御机制。
「安全」频道最新
- XBOW Chrome 全链路漏洞动画拆解:三个漏洞拿走 Google 25 万美元赏金 — moyix · 2026-10-15
- 前白宫网络副顾问创办 SAIF 非营利组织,a16z 创始人注资 2500 万美元 — vishalmisra · 2026-10-15
- Apollo 首见:GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 纽约市投 3000 万美元建量子实验室,换 15% 收益分成 — TuhinChakr · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- FTC 调查要点曝光:每份问卷超 50 页,索要营销材料与隐私政策 — neil_chilson · 2026-10-15