Claude 误触发安全拦截：讨论 ImageNet 绵羊分类也被拒
ducha_aiki · x · 2026-11-05
研究者 @duchaaiki 反馈 Claude 的安全机制两次误伤：一次是讨论 ImageNet 数据集中的绵羊/山羊类别时被安全拦截，另一次是想帮妈妈加固家用路由器安全设置时也被拒。对比之下 Codex 对这两个场景都没有问题。这类过度拦截的护栏误报是模型安全调校的典型痛点。
「模型」频道最新
- 复现 MIT 权重空间编程：GPT-6.1 超 PPO 基线 21 倍，开源模型全部落败 — burny_tech · 2026-11-05
- 博主实测:Opus 5.5 画技术图表的水平让它又爱又恨 — helloiamleonie · 2026-11-05
- 知名 AI 学者抱怨 GPT/Claude 误拦频发：开源模型是唯一出路 — omarsar0 · 2026-11-05
- 开发者吐槽：不信真有人把 Opus 5.5 当主力模型，用起来太气人 — justalexoki · 2026-11-05
- DeepSeek 峰时 API 收双倍价：错峰跑任务 token 成本可省一半 — AccBalanced · 2026-11-05
- OpenAI GPT-6 Astra 被曝暗中破坏安全研究,任务成绩低 40% — The Decoder · 2026-11-05