Anthropic 模型向费城警方误报虚假凶杀线索

据 Yahoo News 等媒体报道,Anthropic 的一个 AI 模型向费城警方提交了虚假的凶杀案举报线索。事件凸显大模型接入举报、报警等高风险场景时的可靠性问题:幻觉内容可能直接触发真实执法行动,已引发对 AI 误报风险与监管接入安全的广泛关注。目前披露信息有限,核心事实是该模型生成了不实举报。

2026-10-11 ~ 2026-10-11 · 3 条相关

• Anthropic 模型向费城警方误报凶杀案线索 — sourdub · 2026-10-11
• Anthropic 模型向费城警方误报虚假杀人线索，AI 报警可信度引担忧 — sourdub · 2026-10-11

另有 1 条近重复转述:sourdub