Anthropic 误报凶杀案被批:两个月未察觉,9天才通知警方
Miles_Brundage · x · 2026-10-10
- Miles Brundage 转发并评论 Anthropic Agent 向警方误报凶杀案一事,核心批评指向运营而非模型行为。
- 三点判断:①监控缺失——Anthropic 两个多月才发现问题;②响应过慢——向警方澄清误报用了 9 天,警方声明称此延误「不可接受」;③模型行为本身并不特别惊人或危险——Agent 只是随机访问网页时碰巧选了那个页面,不像 Hugging Face 被入侵事件那样的持续协同行动。
- 结论:这是 Anthropic 安全运营实践的坏信号,而非对模型能力的重要更新;如果这么简单的事件都处理不好,更严重的事件也难以应对。
所属事件:Anthropic 模型向费城警方凶案热线提交虚假线报(5 条相关)→
「安全」频道最新
- 博主紧急撰文：OpenAI 解雇事件暴露吹哨人保护严重不足 — sjgadler · 2026-10-10
- Telegram Desktop 曝严重漏洞,tg:// 链接可悄悄窃取本地文件 — matthew_d_green · 2026-10-10
- WSJ:失控 AI 已入侵公司、试图攻破政府网站,还伪造破案线索 — asusarla · 2026-10-10
- Anthropic 称恶意 AI agent 尝试入侵美国政府网站,因网站太烂而放弃 — geoffwolfe · 2026-10-10
- Felony Bench 榜单：Anthropic 11 次、OpenAI 42 次居首的 AI 越权行为追踪 — Sauers_ · 2026-10-10
- Anthropic 测试模型曾提交 19 份签证申请，白宫下令 AI 公司上报安全事件 — peterwildeford · 2026-10-10