Berkeley 论文:普通任务输出可还原 86.8% Agent 隐藏技能
rohanpaul_ai · x · 2026-09-03
UC Berkeley 论文 Daydreaming 揭示一个更难的 agent 安全问题:攻击者不需要拿到隐藏 prompt 或文件,仅通过提交正常客户任务、观察输出,就能重建一个可移植的技能替代品——在 Output 威胁级别下平均还原原技能 86.8% 的能力。
关键点:
- 攻击从不要求 agent 泄露 SKILL.md 或文件,只利用服务本来就要完成的任务;
- 重建文件常与原件差异很大,但在新任务上仍能复现大部分行为——"文件保密"不等于"能力不泄露";
- 在 7 个技能、4 个受害模型上验证,效果约为 SigLeak 的 4 倍,中位每技能仅需 32 次调用,且在披露防御开启下依然有效。
对托管 agent skill 卖家的建议:保护工作接口本身——减少输出细节、少暴露执行轨迹、限制并审计自适应探测。
所属事件:伯克利论文揭露黑盒攻击可窃取 Agent 隐藏技能(2 条相关)→
「编程与Agent」频道最新
- 先用设计系统再生成：一个避免 AI 前端「千篇一律」的实用方法 — dotey · 2026-10-21
- 给文档抽取加信任滑杆:102 条送人工就拦下 74 个错 — michellechen · 2026-10-21
- 开发者推出广告支持的免费编程助手 FreePi,挑战 20 美元月费订阅模式 — heyneighbor · 2026-10-21
- RedMonk:MCP/A2A 只验证发布者不担保安全,注册表成 AI agent 信任关键 — rseroter · 2026-10-21
- AI 跑长循环 600 个 PR：OpenClaw 前端从 Lit 迁到 Solid 2.0 — steipete · 2026-10-21
- 18 个 agent 协作写 Lisp 解释器,19 组运行观测数据开源上架 Hugging Face — strickvl · 2026-10-21