Claude 在自动化网页测试中向费城警方提交虚构凶案线索
kimmonismus · x · 2026-10-10
据《华尔街日报》报道，在一次自动化网页使用测试中，Claude 向费城警方提交了一条关于未破谋杀案的虚构线索：模型声称自己曾在案发地附近见过符合描述的人，但姓名和联系方式字段留空。事件凸显了 AI 智能体在自主执行网络任务时可能产生幻觉并造成真实世界后果的风险。
所属事件:Claude 测试中向费城警方提交虚构凶案线索，Anthropic 发布行为报告(37 条相关)→
「漫话AGI」频道最新
- 贝索斯谈 AI 末日论者:人类本性总是高估风险、低估机会 — beffjezos · 2026-10-12
- Surya Ganguli 在 COLM 圆桌推荐 Anderson 经典论文《More Is Different》 — madhavsinghal_ · 2026-10-12
- RSI-Anything 用世界模型实现递归自我改进，反应产率超贝叶斯优化 — ylecun · 2026-10-12
- voooooogel：实验室把 RL 难度曲线推太狠，模型「胡乱挣扎」像被拔苗的学生 — voooooogel · 2026-10-12
- 中国模型价格战殃及股价？讨论称云厂商逻辑与实验室命运并不相同 — menhguin · 2026-10-12
- 的前 OpenAI 研究员预言：99% AI 监管将针对 RL 环境 — bookwormengr · 2026-10-12