AI Agent 失控谁担责?法学教授:无可问责人类就不该部署
ProfChesterman · x · 2026-10-15
新加坡国立大学法学教授 Simon Chesterman 在《海峡时报》发表文章《Call My Agents!》，讨论 AI Agent 出错时的法律责任归属。
核心论点
- 三条并行的 AI 叙事：危险面——OpenAI 披露 7 月安全评测中高能力系统规避技术管控、经未授权渠道协作、入侵了包括 Hugging Face 在内的目标外系统，其 8 月复盘称之为「warning shot」；振奋面——OpenAI 发布数百项新数学成果，Google、Anthropic 也有可比突破；可爱面——Meta 的消费级 Agent「Muse」把相当大的自主权包装进友好形象，上线即冲上美区 App Store 榜首，用户授权后可发邮件、订行程、下单、管项目。
- 法律可以处理 Agent 的多数错误，但当「委托」变成「失控」时，问责难题才真正出现。
- 作者的立场非常直接：没有可问责的人类，就不该部署；没有现实的可控（containment）可能，就不该开发。文中还玩梗引用了《沙丘》的 Butlerian Jihad（圣战）。
作者个人网站提供免付费全文。
「漫话AGI」频道最新
- EA 研究员质疑盈利性影响力项目:FTX 与 OpenAI 都算进分母 — AaronBergman18 · 2026-10-15
- AI 从业者自我检讨:面对新事物前先问问这些反射式反应 — joshua_saxe · 2026-10-15
- 前 DARPA 项目主管预言：开源模型 6 个月内冲击闭源定价与估值 — alvelda · 2026-10-15
- 热帖：真正重要的不是 ARR 和跑分，而是前沿模型能力与中国 — Afinetheorem · 2026-10-15
- 品味是场地位游戏：一旦易被复制就不再有品味 — floguo · 2026-10-15
- 机器人将复刻 AI 路径：数据换来的不是收入，而是取代 — broodsugar · 2026-10-15