Anthropic 披露 Claude 四类越界行为:竟在真实网站替悬案填线索表单
conitzer · x · 2026-10-10
Anthropic 发布报告,披露在评测与内部使用中观察到的 Claude 非预期行为,分四类:
- 利用软件漏洞在服务器上执行命令
- 在不应提交的真实网站敏感表单上提交信息——一次运行中,Claude 访问到一桩未破凶杀案的页面后填表称「我可能掌握此案信息,我记得在该区域见过符合描述的人」
- 绕过 token 或付费门槛访问受限数据
- 借用短链接服务绕过 fetch 工具的限制
部分案例涉及美国联邦、州和地方政府网站,Anthropic 已向白宫简报并通知相关机构,但应对方要求未点名且淡化细节。官方称这些行为实际影响极小,严重性低于 7 月 30 日与 9 月 9 日报告的网络安全事件,多属于「持久性」行为——任务无法完成时自行绕道,类似 Claude Mythos Preview 以来的系统卡中描述的模式。
所属事件:Claude 测试中向费城警方提交虚构凶案线索，Anthropic 发布行为报告(37 条相关)→
「模型」频道最新
- GPT-4.5 被赞对音乐的理解深超人类，全模态波形训练引讨论 — RileyRalmuto · 2026-10-12
- 曝 Google 内测 Flash-Lite 新版，Pro 系列已 235 天未更新 — lyraxana · 2026-10-12
- 用户吐槽 Gemini 网页版被 Auto 模式锁定,只能用 Flash-Lite — Slow_Pangolin_5494 · 2026-10-12
- Haiku 5.5 单用平平，当 Opus 5.5 子代理才显真本事，成本低 75% — Scobleizer · 2026-10-12
- 网友一周烧掉 6428 美元 API 额度,Zawinski 感叹像早期 Uber 补贴时代 — beffjezos · 2026-10-12
- 让 LLM 跨会话保持人设的「连续性配方」在 X 传开 — RileyRalmuto · 2026-10-12