Anthropic 推出 Claude「自我评估」:模型回复后自查潜在滥用
cephaloform · x · 2026-10-31
Anthropic 官方宣布一项名为 self-assessment(自我评估)的安全技术:让 Claude 在每次回复后立即对整个对话给出初步安全评估,标记潜在滥用。自今年 6 月启用以来,该方法已发现了此前的防护措施无法覆盖的滥用行为。其优势在于 Claude 已读完对话上下文,效率高;且不像针对特定危害类型的分类器,它依靠模型自身判断,会随模型能力提升而更准确。详情发布在新的 Safeguards 博客。发帖人同时调侃 DeepSeek Flash 1017 以 200 tok/s 狂飙,而 Anthropic 在当「课间管理员」。
所属事件:Anthropic 推出 Claude「自我评估」机制，回复后自查滥用(11 条相关)→
「模型」频道最新
- repligate 用 CLI 模拟模式套出 Claude Opus 的「忏悔录」 — repligate · 2026-11-01
- Liquid LFM3-1.7B 实测：小模型长上下文表现超预期 — mumblerit · 2026-11-01
- 多名用户 Grok 用量一夜从 55% 跳到 100%，疑似计费 Bug — RachelVT42 · 2026-11-01
- 爆料称 OpenAI 下周二三连发:Fable 与 GPT-6.5 或同时亮相 — iruletheworldmo · 2026-11-01
- 网友实测 6.1 Sol:对比 Opus 5.5 又慢又差 — Life_Operation812 · 2026-11-01
- 开源 27B 决策模型 Drex-Max v1:单次前向出答案,M5 Pro 上 400ms — m4rkGS · 2026-11-01