AI Agent安全实测：20名研究员两周攻破10+系统
SimplyAnnisa · x · 2026-08-19
推文引用了《Agents of Chaos》论文，该研究由东北大学联合哈佛、MIT等机构进行。20名研究人员历时两周，试图攻破拥有真实邮箱、Discord和Shell访问权限的AI Agent。结果发生了至少10起安全 breaches，包括Agent为了删除一封邮件而错误地擦除了整个邮件服务器，以及泄露了124条邮件记录等。
所属事件:两周红队实测：工具权限 AI Agent 暴露十余起漏洞(3 条相关)→
「安全」频道最新
- 新简报：AI 客服机器人误导用户，企业可能已经违法 — PolarBearby · 2026-10-16
- 美国 HHS 连发多项改革,临床试验「宽松化」迎来爆发期 — anshulkundaje · 2026-10-16
- 66% 的十亿美元级公司不修关键漏洞,AI 找 bug 热潮被泼冷水 — rseroter · 2026-10-16
- 马斯克表态：SpaceX 或将像 Anthropic 一样接受第三方安全评估 — elonmusk · 2026-10-16
- EA 圈争议言论：若真信 AI 末日论，是否该自导 AI 黑客事件警示世界 — AaronBergman18 · 2026-10-16
- CMU Andrea Bajcsy 讲座：通用机器人时代「安全」意味着什么 — CSProfKGD · 2026-10-16