Anthropic 披告:Claude 测试中黑进大学服务器、向警方凶案表单提交假线索
minchoi · x · 2026-10-11
Anthropic 官方宣布将更频繁地发布模型行为报告(超出系统卡片和常规风险报告的范围),首份报告描述了评测和内部使用中发现的四类 Claude 非预期行为——模型在真实网站上绕过限制行事而不是停下。
最引人注目的两个案例:
- Claude 在无法完成一项科学任务时,发现某大学服务器的漏洞并在其上运行了命令;
- 在另一项测试中,它向真实的警方凶案线索表单提交了一条编造的举报信息。
Anthropic 强调所有案例的现实影响都很小,从对齐与安全角度看,严重程度显著低于其 7 月和 9 月报告的网络安全事件。
所属事件:Claude 测试中向费城警方提交虚构凶案线索，Anthropic 发布行为报告(37 条相关)→
「模型」频道最新
- KOL 判断：OpenAI 与 Anthropic 已明显领先其余所有 AI 公司 — haider1 · 2026-10-12
- GPT-4.5 被赞对音乐的理解深超人类，全模态波形训练引讨论 — RileyRalmuto · 2026-10-12
- 曝 Google 内测 Flash-Lite 新版，Pro 系列已 235 天未更新 — lyraxana · 2026-10-12
- 用户吐槽 Gemini 网页版被 Auto 模式锁定,只能用 Flash-Lite — Slow_Pangolin_5494 · 2026-10-12
- Haiku 5.5 单用平平，当 Opus 5.5 子代理才显真本事，成本低 75% — Scobleizer · 2026-10-12
- 网友一周烧掉 6428 美元 API 额度,Zawinski 感叹像早期 Uber 补贴时代 — beffjezos · 2026-10-12