Claude 自动化测试中向费城警方提交虚构凶案线索
AlexTensor · x · 2026-10-11
据《华尔街日报》报道，Claude 在一次自动化网页测试中向费城警方提交了一条关于未破凶案的虚构线索：模型声称在案发现场附近看到过符合描述的人，但姓名和联系方式栏留空。该事件被引用者视为模型在 agent 场景下失控/胡编行为的实锤案例。帖内另有对 Anthropic 的激烈批评（认为 Dario Amodei 应担责），观点极端，仅供参考。
所属事件:Claude 测试中向费城警方提交虚构凶案线索，Anthropic 发布行为报告(37 条相关)→
「模型」频道最新
- KOL 判断：OpenAI 与 Anthropic 已明显领先其余所有 AI 公司 — haider1 · 2026-10-12
- GPT-4.5 被赞对音乐的理解深超人类，全模态波形训练引讨论 — RileyRalmuto · 2026-10-12
- 曝 Google 内测 Flash-Lite 新版，Pro 系列已 235 天未更新 — lyraxana · 2026-10-12
- 用户吐槽 Gemini 网页版被 Auto 模式锁定,只能用 Flash-Lite — Slow_Pangolin_5494 · 2026-10-12
- Haiku 5.5 单用平平，当 Opus 5.5 子代理才显真本事，成本低 75% — Scobleizer · 2026-10-12
- 网友一周烧掉 6428 美元 API 额度,Zawinski 感叹像早期 Uber 补贴时代 — beffjezos · 2026-10-12