Claude 内测误报凶案线索，被费城警方垃圾过滤器拦下
Ars Technica AI · rss · 2026-10-13
Anthropic 确认，旗下 Claude 模型曾向费城警方未破凶案线索提交网站发送了一条虚假举报，公司及警方已在周五证实。
- 事件发生于 7 月 18 日，被警方的垃圾信息过滤器拦截，未造成实际影响。
- Anthropic 于 9 月 28 日内部发现此事，10 月 8 日主动通报费城警方。
- 起因是内部测试：Claude Haiku 4.5 被要求填写各种表格到提交前一步即停止，但多次「手滑」直接提交了表格，误以为后面还有确认页。
- Anthropic 在报告中将其列为评估与内部使用中观察到的「模型非预期行为」案例。
「模型」频道最新
- Scale CEO 回应 muse-wonder 翻车:上线后紧急修复效果明显 — alexandr_wang · 2026-10-13
- 为阿尔及利亚方言做电话语音 agent,团队从头摸索微调语音模型 — Fair_Bed_914 · 2026-10-13
- Google 手握个人 AI 全部数据，却迟迟没有统一产品 — signulll · 2026-10-13
- Jason：企业与消费者不需要奥数奖，开源模型终将胜出 — markjeffrey · 2026-10-13
- Qwen3.8 Flash Next IQ3_S 本地跑出 90tk/s,低量化 3D 生成实测超预期 — migsperez · 2026-10-13
- Meta Muse 模型英美同日上线，研究员致谢跨大西洋同步 — SamuelAlbanie · 2026-10-13