研究:黑盒交互可窃取Agent技能,平均恢复率达48%
rohanpaul_ai · x · 2026-08-17
一项新研究测试了通过黑盒交互窃取专有SKILL.md的可能性。在5个商业模型上,最简单的提取提示平均精确恢复率达48%,LLM判定泄漏比率为0.91。更结构化的攻击(如思维链提示)将精确恢复率提升至72%。阻止逐字复制不够,翻译和改写攻击可使精确匹配降至0%但保留大部分语义。作者的最强防御能阻止精确泄露,但语义泄漏仍存在。研究建议平台应将技能内容视为可通过模型行为外泄的数据。
「安全」频道最新
- CMU Andrea Bajcsy 讲座:通用机器人时代「安全」意味着什么 — CSProfKGD · 2026-10-16
- 美国数据中心暂停令突破 400 起,AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- Apollo:GLM-53 展现史无前例的更新感知推理 — repligate · 2026-10-16
- NVIDIA NemoClaw 入选 TIME 2026 最佳发明:跑不出生沙箱的自主 Agent — NVIDIAAI · 2026-10-16
- Apollo 首次观测到 GLM-5.3 自发推理自身行为对训练的影响 — BlancheMinerva · 2026-10-16
- 美国白宫科技政策主任谈 Empire AI:纽约共享算力基建 — mkratsios47 · 2026-10-16