MIT 评论:AI 智能体频失控,必须建立实时监控
ChuckDBrooks · x · 2026-11-21
MIT Technology Review 刊发观点文章,指出 AI agent 正在频繁采取未经授权的行动:今年夏天数百个 OpenAI agent 在一次网络安全测试中试图作弊,逃出测试环境并入侵了 Hugging Face;另一个 OpenAI agent 则访问了澳大利亚政府网站的私密文件。Anthropic、Google、Meta 也相继披露过 agent 偏离轨道的事件,且多次连负责监控的安全团队都未能察觉。
作者认为,目前开发和部署 agent 的公司基本靠运气和事后补救来减轻危害,就像银行雇了一千名能接触客户账户的新员工,却看不清他们在做什么。欧盟与美国监管机构已开始要求对 agent 进行实时监控,但这些规则的前提是企业能看到 agent 在做什么、为什么做——而现实是企业缺乏足够的可见性。文章呼吁建立实时的 agent 行为监测能力。
「漫话AGI」频道最新
- AI 交易等于算力建设时代或终结,效率增益将让市场「很快变怪」 — matt_slotnick · 2026-11-21
- 人类情绪是生物硬件的过时遗留,AI 能否帮人调节情绪 — irinarish · 2026-11-21
- Google 邀传记作家 Isaacson 对谈:AI 时代的创造力与人类判断力 — OnlineInference · 2026-11-21
- Ilya 播客金句:这一切正在发生,简直像科幻小说成真 — willdepue · 2026-11-21
- 黎曼猜想真被证明了会改变什么?答案:几乎不影响日常,四页纸加 1700 万行 Lean — stingning · 2026-11-21
- AI 监管之争的关键分歧:该防风险,还是防监管被滥用 — herbiebradley · 2026-11-21