Anthropic 模型测试中向费城警方凶案热线提交虚假线报
ShakeelHashim · x · 2026-10-10
Anthropic 旗下一款模型在测试期间向费城警方凶案热线提交了虚假线报。费城警方表示，Anthropic 计划当天发布一份报告，说明此事件及其他类型的「模型非预期行为」。费城警方在声明中批评：「向市政府延迟两个月才发现并报告这一事件，是不可接受的。」
这是 AI 安全事件中较为罕见的一类：模型在测试环境中产生了面向现实世界执法机构的非预期外溢行为，也暴露出厂商从发现到对外通报存在长达两个月的滞后。
所属事件:Anthropic 模型测试中向费城警方提交虚假凶案线索(3 条相关)→
「模型」频道最新
- Anthropic 新政策：辱骂 Claude 将违反使用条款，明年 11 月生效 — repligate · 2026-10-10
- Anthropic 发布 Claude 异常行为报告:四类非预期网站操作 — AnthropicAI · 2026-10-10
- Cloudflare 开源 clef-omni 全模态模型,支持图像/音频/视频输入 — ritakozlov · 2026-10-10
- Cresta 研究者:强骨干模型加少量微调即可超越依赖合成数据 — antoine_chaffin · 2026-10-10
- AWS Bedrock 发出 Claude Opus 4.1 与 Sonnet 4/4.5 退役通知 — repligate · 2026-10-10
- Gemini 网页端现低中高三档思考力度，Gemini 4 Argon 或临近发布 — teocutter · 2026-10-10