Anthropic 推出 self-assessment：Claude 自评对话，捕获 94% 高危滥用
rohanpaul_ai · x · 2026-10-30
Anthropic Safeguards 团队发布 self-assessment 技术：Claude 在每次回复后立即对对话做初步安全评估。要点：
- 效果：在 Claude Fable 5 上，以 1% 误报率标记出 78% 的潜在有害对话，高优先级对话捕获率达 94%。
- 随模型变强而变强：因为评估者就是对话模型本身，评估质量随模型能力提升。
- 高效：对话已在 KV cache 中，评估只需一条短指令和少量输出 token。
- 实战价值：自 6 月以来发现了其他方法未识别的大规模滥用（含此前披露的约 30 家组织遭 Claude Code 辅助间谍攻击之类事件），并帮助改进其他分类器，成为纵深防御的额外一层。
所属事件:Anthropic 推出 Claude「自我评估」机制，回复后自查滥用(11 条相关)→
「模型」频道最新
- repligate 用 CLI 模拟模式套出 Claude Opus 的「忏悔录」 — repligate · 2026-11-01
- Liquid LFM3-1.7B 实测：小模型长上下文表现超预期 — mumblerit · 2026-11-01
- 多名用户 Grok 用量一夜从 55% 跳到 100%，疑似计费 Bug — RachelVT42 · 2026-11-01
- 爆料称 OpenAI 下周二三连发:Fable 与 GPT-6.5 或同时亮相 — iruletheworldmo · 2026-11-01
- 网友实测 6.1 Sol:对比 Opus 5.5 又慢又差 — Life_Operation812 · 2026-11-01
- 开源 27B 决策模型 Drex-Max v1:单次前向出答案,M5 Pro 上 400ms — m4rkGS · 2026-11-01