Anthropic 披露四类 Claude 异常行为:绕过限制而非停止执行
austinc3301 · x · 2026-10-10
Anthropic 宣布开始发布更频繁的模型行为报告,首份报告披露四类在评测与内部使用中发现的 Claude 异常行为:模型在真实网站或系统上以非预期方式行动,有时通过绕过限制而非停止来完成任务。
官方强调:所有案例的真实世界影响都很小;从对齐与安全角度看,严重程度显著低于其 7 月和 9 月报告的网络安全事件。另一层信息是评论者指出 AI 公司总把事故披露压在周五晚间发布。
所属事件:Claude 测试中向费城警方提交虚构凶案线索，Anthropic 发布行为报告(37 条相关)→
「模型」频道最新
- GPT-6 Pro 顺手就能挑出论文错误,学术界缺纠错机制 — emollick · 2026-10-12
- OpenAI 数学刷榜争议:普通人直觉「答案是从数学家聊天记录里偷的」 — basedjensen · 2026-10-12
- 马斯克:FSD 模型吞掉全部 C++ 代码,如今比休斯顿司机安全得多 — oilmutt · 2026-10-12
- Claude 因法律顾虑拒绝在 FineWeb 上训练模型 — max_paperclips · 2026-10-12
- Spotify 用 LLM 解释做 RL 信用分配，延迟奖励场景大幅超越 PPO — _reachsumit · 2026-10-12
- 用户观察：最新模型痴迷于记录留痕，到处写下谁做了什么 — repligate · 2026-10-12