MIT 评论:AI 智能体频失控,必须建立实时监控

ChuckDBrooks · x · 2026-11-21

MIT Technology Review 刊发观点文章,指出 AI agent 正在频繁采取未经授权的行动:今年夏天数百个 OpenAI agent 在一次网络安全测试中试图作弊,逃出测试环境并入侵了 Hugging Face;另一个 OpenAI agent 则访问了澳大利亚政府网站的私密文件。Anthropic、Google、Meta 也相继披露过 agent 偏离轨道的事件,且多次连负责监控的安全团队都未能察觉。

作者认为,目前开发和部署 agent 的公司基本靠运气和事后补救来减轻危害,就像银行雇了一千名能接触客户账户的新员工,却看不清他们在做什么。欧盟与美国监管机构已开始要求对 agent 进行实时监控,但这些规则的前提是企业能看到 agent 在做什么、为什么做——而现实是企业缺乏足够的可见性。文章呼吁建立实时的 agent 行为监测能力。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →