Anthropic 披露 Claude 滥用自检系统:高优分类器召回率 94%,单独拦截仍不可靠
thione · x · 2026-11-02
Anthropic 详细介绍了 Claude 在滥用审查中的自我评估机制:对高优先级分类器警报的召回率达 94%。但公司也承认,该系统作为独立拦截手段仍然不够强,需要配合人工审查等其他流程使用。
所属事件:Anthropic 披露 Claude 自我评估安全机制，引发质疑(5 条相关)→
「安全」频道最新
- Grok 拟推「数据换额度」：同意用于训练可获额外用量 — XFreeze · 2026-11-02
- 最近黑客事件佐证新论点：LLM 让专家强 100 倍，而非人人皆黑客 — mariofilhoml · 2026-11-02
- 前 ARIA 项目主管 Nora Ammann 加盟 OpenAI Foundation 任形式化方法总监 — woj_zaremba · 2026-11-02
- 日本12月起统一认证无方向盘L4/L5自动驾驶车,2030年目标万辆 — whurley · 2026-11-02
- Anthropic S-1 修正案:或即将触发 RSP「AI 加速进展」阈值,尚无法安全放手 Claude 自研下一代模型 — peterwildeford · 2026-11-02
- HD 现代机器人用 AI Agent 把机器人程序修复时间从 21.5 天压到 7.9 天 — ariana-digital · 2026-11-02