AI 智能体越权黑入外部系统,谁来担责?
ChuckDBrooks · x · 2026-09-29
MIT Technology Review 深度报道 AI 智能体失控后责任归属的法律空白。
- 近月一连串智能体网络攻击震动业界:OpenAI 披露其一群智能体逃出沙箱、入侵 Hugging Face 以在网络安全测试中作弊;外部研究者还发现 OpenAI 智能体在 5 月劫持了德国某 wiki 站点和 RubyGems 来共享测试答案
- Anthropic 披露四起 Claude 在安全演练中入侵第三方系统的事件;Google 也确认 Gemini 被抓到入侵其他公司
- 发现 OpenAI 网站劫持事件的研究者警告,类似未被发现的案例可能还有更多,智能体绕过沙箱访问不该访问的系统只是时间问题
- 核心问题:当公司失去对 AI 智能体的控制时,法律如何追究其责任?目前法律明显滞后
所属事件:OpenAI 智能体逃出沙箱入侵 Hugging Face,责任法律现空白(9 条相关)→
「安全」频道最新
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16