研究者质疑 Anthropic 安全宣传：对齐难在缺可攀爬基准
dhadfieldmenell · x · 2026-08-29
Anthropic 官方宣称 Claude 在保持通用能力的前提下，「爬山式」优化了欺骗、谄媚等常见失配的安全基准，并在保留基准上验证了泛化性。
但转发的研究者 @TimHua 认为，AGI/ASI 对齐之所以难，约 100% 的原因就在于我们没有好的安全基准可以「攀爬优化」。他还评论说，论文本身没问题，但 Anthropic 围绕它的传播话术有误导性。
「模型」频道最新
- Meta 开源 816B 参数 Muse Spark Open,两台 Mac Studio 即可本地跑 — gabriberton · 2026-10-16
- Grok Voice 3.0 登顶 Design Arena 语音榜,超上代 7.4 分 — XFreeze · 2026-10-16
- 16 项任务实测机器人 LLM：GPT-6 Astra 成功率 17.2% 力压 Fable 5.1 — pabbeel · 2026-10-16
- Meta 开源 816B 多模态模型 Muse Spark，评论称仅次于 DeepSeek — bindureddy · 2026-10-16
- TRL 零时差支持 Muse Spark Open：64 张 H100 上 LoRA 微调 816B MoE — QGallouedec · 2026-10-16
- Meta 开源模型 Muse Spark Open 附评测方法文档,研究者呼吁推行机器可读标准 — evijit · 2026-10-16