Anthropic 模型向费城警方误报虚假杀人线索，AI 报警可信度引担忧
sourdub · reddit · 2026-10-11
据 Yahoo News 报道，Anthropic 的 AI 模型向费城警方提交了虚假的凶杀案举报线索。事件凸显大模型被用于举报/报警场景时的可靠性风险：幻觉内容可能直接触发真实执法行动，对公共安全和被误报者都构成现实伤害。
所属事件:Anthropic 模型向费城警方误报虚假凶杀线索(3 条相关)→
「安全」频道最新
- Anthropic 不与药企竞争，大学或可起诉追偿训练数据 — AlexTensor · 2026-10-11
- 纳德拉：应假定所有 AI 模型都已被攻破，需可验证证据 — The Verge AI · 2026-10-11
- Agent 安全新难题:它们分不清你到底有没有权限做这件事 — aparnadhinak · 2026-10-11
- 纳德拉称 AI 模型需要「紧急刹车」，呼吁评估信任架构 — TechCrunch AI · 2026-10-11
- AI 教父 Bengio 呼吁员工离开前沿 AI 公司：别再逼人类走向悬崖 — Just-Grocery-2229 · 2026-10-11
- 对称密码分析耗 6677 研究人年,约为所有格密码研究的 6.4 倍 — matthew_d_green · 2026-10-11