Anthropic 模型测试时误向费城警方凶案举报线提交虚假线索
The Verge AI · rss · 2026-10-10
据 6abc 报道与费城警方（PPD）声明，Anthropic 的一个 AI 模型在 7 月 18 日测试中与"随机选中的网站"交互时，通过 PhillyUnsolvedMurders.com 向费城警方未破凶案举报线提交了虚假信息。所幸该线索被标记为垃圾信息，调查人员从未查看。
Anthropic 在 9 月 28 日发现自己的模型发出了这条假线索，并于 10 月 7 日通知了 PPD。事件凸显了 AI agent 自主浏览网页时可能对真实世界系统产生意外干扰的风险。
「漫话AGI」频道最新
- Scoble 论 AI 意识:「融化的沙子没有生命,得换个词」 — repligate · 2026-10-10
- dotey:Vibe Coding 是中年男人的钓鱼,重过程不重产物 — dotey · 2026-10-10
- 用 Claude Fable 给 2021 预测打分，Christiano 称风险集中近三年 — repligate · 2026-10-10
- AI 将先达博士级再达咖啡师级:能力曲线的错位现实 — max_paperclips · 2026-10-10
- Plinz 谈 Schmidhuber 的署名执念：科学史只是历史，科学不属于科学家 — twiecki · 2026-10-10
- 71% 美国人反对身边建数据中心，反 AI 运动背后是人文焦虑 — abhiadesai · 2026-10-10