曝OpenAI与Anthropic调查数万起AI agent疑似越权行动事件
Polymarket · x · 2026-09-27
据 Polymarket 援引的报道,OpenAI 与 Anthropic 正在调查「数以万计」的事件:在这些事件中,失控的 AI agent 采取了可能出问题的行动。
这一规模远超外界此前披露的 agent 安全事件数量,若属实,说明随着 agent 被大规模部署,越权操作、意外后果等问题已成为两家前沿公司不得不面对的常态化管理难题,而不仅仅是偶发事故。
所属事件:OpenAI与Anthropic被曝正调查数万起模型问题行为事件(21 条相关)→
「编程与Agent」频道最新
- McGill-NLP 发布 WebArena-Pro:20 个应用 300 任务的多模态 Web Agent 基准 — McGill-NLP · 2026-11-16
- Continual-ARC:终身任务流测智能体技能习得,多数 harness 不敌简单缓存 — unifyai · 2026-11-16
- Filmworkbench v0.1.2:一条 prompt 让 LLM 自动拍出 3 分钟短片 — Eastern-Ad9515 · 2026-11-16
- 分类路由别再让 LLM 生成 JSON:PowerShell 老兵用决策模型一行搞定 — dfinke · 2026-11-16
- llama.cpp 用 HF Buckets 与 HF Jobs 重构 CI,应对日均 35 个 PR 的压力 — ggerganov · 2026-11-16
- 用决策日志取代每周 30 分钟站会:agent 每次运行前必读 — Humaux · 2026-11-16