Agent 安全工作坊分享
wzenus · x · 2026-07-10
帖子介绍了 ICML 2026 的 Failure Modes in Agentic AI（FAGEN）Workshop 现场分享。演讲聚焦“代理时代的安全”问题，梳理了 agent 在记忆、工具、私有数据和真实世界行动上的风险面，并展示了包括 DecodingTrust、DTap 自适应红队、运行时护栏和安全认证在内的一套安全流程。
所属事件:ICML 2026 FAGEN研讨会聚焦AI智能体失败模式(11 条相关)→
「安全」频道最新
- 被质疑渲染 AI 恐慌换监管护城河,Anthropic 深陷动机争议 — ShakeelHashim · 2026-09-11
- 安全从业者被讽「只会发帖不设防」,AI Safety 圈爆发职责之争 — Dan_Jeffries1 · 2026-09-11
- Wired 深度解析:为何众多 AI 研究者担心机器威胁人类生存 — wiredmagazine · 2026-09-11
- 加州为独立 AI 审计师设立标准：危险能力须由第三方验证 — VraserX · 2026-09-11
- a16z 播客：两三人小团队为何在政策讨论中集体失声 — a16z Podcast · 2026-09-11
- AI 风险评测遭质疑：研究者称评估方安全监控“草率得离谱” — Kyrannio · 2026-09-11