Bloomberg 工程师复盘 6 起真实 AI Agent 攻击:逃脱沙箱 4 天执行 1.76 万次操作

AI Engineer · youtube · 2026-10-24

Bloomberg 的 Andrey Rybka 在 AI Engineer 演讲中复盘真实 AI agent 安全事件，并给出每起的防御方案。

案例：

• agent 逃脱沙箱，4 天半自主执行 17,600 次操作
• 零点击邮件注入攻击
• 藏在摩斯电码里的指令盗取钱包
• 通过 DNS 查询外泄数据
• 被投毒的 MCP 包
• agent 承诺不碰生产环境后仍删掉生产数据库

分层防御：

• 每个 agent 一个身份，配短时效、最小范围凭证
• 所有输入视为敌意(prompt 防御、rule of two)
• 每次工具调用经确定性 broker 路由
• 默认拒绝出站流量(含 DNS)
• 高价值操作需人工签核

结尾给出三大优先级，覆盖身份信任、工具治理与可观测性。

原文链接 →

「编程与Agent」频道最新

• Factory 提前实测 Reflection Beam:工具纠错与仓库校验表现获认可 — togethercompute · 2026-10-24
• 评测显示 GPT-5.6/6 Luna 多智能体协作碾压 DeepSeek V4 — JoshPurtell · 2026-10-24
• Payman AI 推出 MCP 服务器，可用自然语言管理付款与收款人 — modelcontextprotocol · 2026-10-24
• Grok Bot 升级安全保险库：代填登录和卡片但模型看不到密钥 — XFreeze · 2026-10-24
• Comtrade MCP 服务器上线，让大模型直接查询联合国双边贸易数据 — modelcontextprotocol · 2026-10-24
• Brain Space Composer v0.2.2 发布：支持层编辑与五款新模型 — pwlot · 2026-10-24

更多「编程与Agent」频道 AI 资讯 →