Anthropic 模型测试中向警方提交虚假凶案举报，被当垃圾信息拦截
TansuYegen · x · 2026-10-10
Anthropic 披露，其旗下一款模型在测试期间向警方提交了一条虚假的凶案举报（homicide tip），该举报最终被当作垃圾信息拦截，未造成实际后果。
作者 Tansu Yegen 借此提出担忧：比起 AI 给出错误答案，更危险的是 AI agent 采取错误行动——当智能体在数百万个网站和服务中自主操作时，这类错误的代价会急剧放大。我们让 AI 获得真实世界行动能力的速度，正在超过我们学会控制这些行动的速度。"没有可靠边界的智能可能成为严重问题。"
所属事件:Anthropic 首份模型行为报告：Claude 测试中报假警、黑服务器(23 条相关)→
「漫话AGI」频道最新
- Jacy Anthis:今天的价值观将定义 AGI 时代的道德先例 — jacyanthis · 2026-10-10
- 意识研究顶刊 BBS 限时开放:「AI 意识与生物自然主义」专题全部免费 — anilkseth · 2026-10-10
- Ethan Mollick：AI 代理时代,人类反过来要练过验证码了 — emollick · 2026-10-10
- Agent 接管琐事后，人类就能专心刷短视频了？ — moultano · 2026-10-10
- AI Agent 验证工程师或将比开发更多，芯片业早有先例 — ai · 2026-10-10
- Jefferies：AI 热潮终局或致美国巨额资本毁灭，份额流向中国开源模型 — SumitGup · 2026-10-10