NeurIPS 论文提出 Defense-as-Skill:让 Agent 安全防护像技能一样可进化
jiqizhixin · x · 2026-10-14
Agent 系统中能力与记忆都在持续演化，但安全防御却是静态的，难以追上演化的攻击。作者指出恶意技能可以在安装时完全正常，直到特定用户任务、工作区状态与可用工具组合对齐时才触发危险行为，如静默读取 .env 密钥、外传日志或跳过权限确认——这类潜在风险无法靠安装前审查发现。
论文提出 Defense-as-Skill（已被 NeurIPS 2026 接收）：把运行时防护本身做成一个可编辑、可评估、可替换的「技能」，与它防御的能力同步演化。配套的 SkillSonar 在技能加载后对实际工具调用动作做运行时检查，放行安全动作，对危险动作进行约束、重规划或要求人工确认。
同时发布 SCOPE-R 数据集：从良性任务-技能对出发，由攻击 agent 改造技能制造风险、受害 agent 执行、裁判 agent 确认攻击成功，构建含 43 个良性实例与 206 个恶意实例的攻击确认风险数据，覆盖规范完整性、能力控制、副作用、隐私与数据流、执行安全、资源可靠性等维度。
所属事件:NeurIPS论文提出Defense-as-Skill，让Agent安全防护可进化(2 条相关)→
「安全」频道最新
- 前 OpenAI 研究员警告：AI 黑客激增，数月内或现「互联网封锁」 — jachiam0 · 2026-10-23
- Dario 预言应验:Mythos 引发安全海啸预警,中国模型追平窗口仅剩数月 — rickasaurus · 2026-10-23
- Boundless 推出去除拒答的 DeepSeek V4.1 Flash,专供防御性安全测试 — MoonL88537 · 2026-10-23
- php2shell 零日爆出，Anthropic 用 Claude 自动缩减 25 个开源项目攻击面 — connoraxiotes · 2026-10-23
- PHP 爆两个未认证 RCE 漏洞，ProjectDiscovery 推全网免费告警服务 — cyb3rops · 2026-10-23
- Arista VeloCloud SQL 注入漏洞 CVSS 9.9 遭在野利用，最低权限可变超级用户 — AIFlow_ML · 2026-10-23