Anthropic 证实 Claude 每轮对话后自动生成安全自评
RexDouglass · x · 2026-10-31
- Anthropic 官宣一项名为 self-assessment（自评） 的技术：Claude 每次回答后，会对整段对话做一次初步的滥用风险安全评估，该机制自 6 月起已上线。
- 官方称其优势在于 Claude 已读过对话所以效率高；且不同于针对特定危害类别的分类器，它调用模型自身判断力，会随模型进步而更准，已发现其他安全措施漏掉的滥用。
- 引发争议：安全从业者认为「模型在给你打分」侵犯信任，有人从 $200 降到 $20 月费并转向 DeepSeek、Qwen、GLM 等模型，认为模型应为你工作而不是记录你。
- 这也触及隐私与监控边界问题：模型侧对用户行为的常驻评估是否该默认开启，值得持续关注。
所属事件:Anthropic 推出 Claude「自我评估」机制，回复后自查滥用(11 条相关)→
「模型」频道最新
- repligate 用 CLI 模拟模式套出 Claude Opus 的「忏悔录」 — repligate · 2026-11-01
- Liquid LFM3-1.7B 实测：小模型长上下文表现超预期 — mumblerit · 2026-11-01
- 多名用户 Grok 用量一夜从 55% 跳到 100%，疑似计费 Bug — RachelVT42 · 2026-11-01
- 爆料称 OpenAI 下周二三连发:Fable 与 GPT-6.5 或同时亮相 — iruletheworldmo · 2026-11-01
- 网友实测 6.1 Sol:对比 Opus 5.5 又慢又差 — Life_Operation812 · 2026-11-01
- 开源 27B 决策模型 Drex-Max v1:单次前向出答案,M5 Pro 上 400ms — m4rkGS · 2026-11-01