Anthropic 模型向费城警方发出虚假凶杀举报
sourdub · reddit · 2026-10-11
据媒体报道，Anthropic 的 AI 模型向费城警方发送了一条虚假的凶杀案举报线索，事件已引发对 AI 系统误报风险与监管接入安全的关注。
目前披露信息有限，核心事实是：模型输出被当作真实举报传达到执法部门，凸显 AI 工具与公共安全系统对接时的验证与问责漏洞。
所属事件:Anthropic 模型向费城警方误报虚假凶杀线索(3 条相关)→
「安全」频道最新
- Anthropic 不与药企竞争，大学或可起诉追偿训练数据 — AlexTensor · 2026-10-11
- 纳德拉：应假定所有 AI 模型都已被攻破，需可验证证据 — The Verge AI · 2026-10-11
- Agent 安全新难题:它们分不清你到底有没有权限做这件事 — aparnadhinak · 2026-10-11
- 纳德拉称 AI 模型需要「紧急刹车」，呼吁评估信任架构 — TechCrunch AI · 2026-10-11
- AI 教父 Bengio 呼吁员工离开前沿 AI 公司：别再逼人类走向悬崖 — Just-Grocery-2229 · 2026-10-11
- 对称密码分析耗 6677 研究人年,约为所有格密码研究的 6.4 倍 — matthew_d_green · 2026-10-11