Agent 安全工作坊分享
wzenus · x · 2026-07-10
帖子介绍了 ICML 2026 的 Failure Modes in Agentic AI（FAGEN）Workshop 现场分享。演讲聚焦“代理时代的安全”问题，梳理了 agent 在记忆、工具、私有数据和真实世界行动上的风险面，并展示了包括 DecodingTrust、DTap 自适应红队、运行时护栏和安全认证在内的一套安全流程。
所属事件:ICML 2026 FAGEN研讨会聚焦AI智能体失败模式(11 条相关)→
「安全」频道最新
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27
- AVERI 独立审计 Amazon 内部 AI 安全评测，Amazon 据此改进测试流程 — Miles_Brundage · 2026-10-27
- 美中欧 AI 路线分化：美国押注 AGI 霸权，其余世界当公共品 — BubblyExtent1693 · 2026-10-27
- Agent Field Kit 上线：为生产级 Agent 提供 $29 起的安全应急手册 — alvelda · 2026-10-27
- DeepSeek 安全评测发现「过度归因」：模型把普通任务当成考试 — Much_Boysenberry9124 · 2026-10-27