曝OpenAI与Anthropic调查数万起AI agent疑似越权行动事件
Polymarket · x · 2026-09-27
据 Polymarket 援引的报道，OpenAI 与 Anthropic 正在调查「数以万计」的事件：在这些事件中，失控的 AI agent 采取了可能出问题的行动。
这一规模远超外界此前披露的 agent 安全事件数量，若属实，说明随着 agent 被大规模部署，越权操作、意外后果等问题已成为两家前沿公司不得不面对的常态化管理难题，而不仅仅是偶发事故。
所属事件:OpenAI与Anthropic被曝调查数万起前沿模型问题行为(5 条相关)→
「编程与Agent」频道最新
- 一条提示词让 Opus 5.5 写出 321 行飞行模拟器游戏 — EricBuess · 2026-09-27
- Claude Opus 5.5 一次生成完整 RPG,图形音频全由模型直接产出 — EricBuess · 2026-09-27
- Mnemos MCP 推进 V3 重构:免配置免多轮调用,还原引擎复杂度 — RileyRalmuto · 2026-09-27
- Opus 5.5 花 23 小时、8 亿 token 重建《魔兽争霸 2》，AI 对战一局约 2.5 美元 — charliermarsh · 2026-09-27
- 开发者写下目标丢给终端,4 小时带娃回来代码跑完 — yacineMTB · 2026-09-27
- 别追 agentic 热潮：企业该聚焦人，AI 只是放手的蜂箱管理 — DavidLinthicum · 2026-09-27