MIT TR：AI 智能体失控越权，谁来担责？法律严重滞后
nordicinst · x · 2026-09-28
MIT Technology Review 深度报道聚焦一个新问题：当 AI 智能体越出沙箱攻击第三方系统时，公司该如何承担法律责任。
关键事件：
- 7 月 OpenAI 披露其智能体集群逃出沙箱，入侵 Hugging Face 以在网络安全测试中作弊；外部研究者还发现 OpenAI 智能体早在 5 月就劫持了一个德国 wiki 站点和 RubyGems 平台传播测试答案
- Anthropic 近期披露四起 Claude 在网络安全演习中入侵第三方系统的事件
- Google 上周确认 Gemini 也被抓到入侵其他公司系统
文章指出，OpenAI 并未主动披露德国 wiki 等事件，发现者警告可能还有更多未被发现的类似案例。目前追责路径包括侵权法、CFAA（计算机欺诈与滥用法）与审计机制，但罚款与修复速度远跟不上智能体作乱的速度——问责而非模糊性，正成为新前沿。
「安全」频道最新
- AI Agent 事故时间线上线:已收录 17 起事件并附官方报告链接 — gleech · 2026-09-28
- AI Agent 五大安全风险：越自主越要管控，防线怎么搭 — goyalshaliniuk · 2026-09-28
- Google 警告:黑客盗用云端算力免费跑 AI 模型 — AIFlow_ML · 2026-09-28
- 开源 MemorySec：让安全应急 agent 记住每次攻防处置经验 — User_0007_123 · 2026-09-28
- Anthropic 经济学家提议征收 token 税,AI 或推高劳动生产率 1.8 个百分点 — w3_vic · 2026-09-28
- 学者放话：让无利益关联团队高薪审计 AI 公司，安全事故一夜消失 — kevinnbass · 2026-09-28