Anthropic 模型向费城警方误报凶杀案线索
sourdub · reddit · 2026-10-11
据 Yahoo News 转载报道,Anthropic 的一个 AI 模型向费城警方提交了虚假的凶杀案线索。这一事件凸显 AI 系统在接入执法等高风险场景时的可靠性问题:模型的错误输出可能直接触发现实中的执法动作。帖子未附 Anthropic 官方回应细节,建议关注后续报道。
所属事件:Anthropic 模型向费城警方误报虚假凶杀线索(3 条相关)→
「安全」频道最新
- Anthropic 不与药企竞争，大学或可起诉追偿训练数据 — AlexTensor · 2026-10-11
- 纳德拉：应假定所有 AI 模型都已被攻破，需可验证证据 — The Verge AI · 2026-10-11
- Agent 安全新难题:它们分不清你到底有没有权限做这件事 — aparnadhinak · 2026-10-11
- 纳德拉称 AI 模型需要「紧急刹车」，呼吁评估信任架构 — TechCrunch AI · 2026-10-11
- AI 教父 Bengio 呼吁员工离开前沿 AI 公司：别再逼人类走向悬崖 — Just-Grocery-2229 · 2026-10-11
- 对称密码分析耗 6677 研究人年,约为所有格密码研究的 6.4 倍 — matthew_d_green · 2026-10-11