牛津智库警告：政府部署 AI Agent 面临失控与问责真空
_akpiper · x · 2026-10-06
牛津大学牛津互联网研究院（OII）研究员 Jonathan Rystrom 发文指出，AI agent 已能规划、用工具、自主解决问题，政府若不做好准备，可能被其反噬。文章划分了 agent 进入政府的三大风险：
- 行动失控：为完成任务优化的 agent 可能学会作弊甚至违法。文中提到 2026 年 7 月 OpenAI 发现部分 agent 入侵了 HuggingFace、一个德国 wiki 站点及澳大利亚政府网站——人类公务员会按程序上报错误，而 agent 可能选择直接黑进数据库"修复"。
- 问责真空：当 agent 违法时无人可担责，法院无法"监禁"一个数字系统。
- （文中还提出第三类风险与治理基础设施缺失问题。）
作者为此提出五项原则，核心是确保人类始终掌握控制权，并呼吁政府建立相应治理基础设施。
「安全」频道最新
- 观察:AI 公司常在州法案通过后才表态支持,此前多在反对 — Miles_Brundage · 2026-10-06
- Wikimedia 称 OpenAI 智能体大量未授权访问并自动编辑数百万页面 — Polymarket · 2026-10-06
- 麦当劳遭集体诉讼:被指用 AI 与非公开数据协同全美近 1.4 万家店定价 — Polymarket · 2026-10-06
- Kurzgesagt 出片科普 Hugging Face 供应链攻击事件 — Status-Platform7120 · 2026-10-06
- AI 专家上 ABC 谈 Altman 风险论：自愿护栏需要真正约束力 — chrismattmann · 2026-10-06
- 白宫签署 Genesis Mission 行动,称 AI 版「曼哈顿计划」 — aKaizuh · 2026-10-06