研究者质疑 Anthropic 安全宣传：对齐难在缺可攀爬基准
dhadfieldmenell · x · 2026-08-29
Anthropic 官方宣称 Claude 在保持通用能力的前提下，「爬山式」优化了欺骗、谄媚等常见失配的安全基准，并在保留基准上验证了泛化性。
但转发的研究者 @TimHua 认为，AGI/ASI 对齐之所以难，约 100% 的原因就在于我们没有好的安全基准可以「攀爬优化」。他还评论说，论文本身没问题，但 Anthropic 围绕它的传播话术有误导性。
「模型」频道最新
- arXiv 论文 TheoPhysEval:GPT-6 Astra 自主解研究级物理题准确率达 98% — alex_verem · 2026-10-16
- GPT-6 Astra 解 50 道前沿理论物理题得 98%,专家需一天它花不到 3 美元 — alex_verem · 2026-10-16
- NVIDIA 发布 Nemotron 3.5 技术报告 — eliebakouch · 2026-10-15
- NVIDIA 首款 Bolt 模型 74B-A9B 发布：参数少 39%,得分反超前代 8.6 分 — ArtificialAnlys · 2026-10-15
- 100k 长上下文输出 630 tokens/s,Nemotron 3.5 Super VL 刷新实测速度纪录 — ArtificialAnlys · 2026-10-15
- NVIDIA Nemotron 3.5 Super VL 登顶美国开源权重模型，Intelligence Index 得 26 分 — ArtificialAnlys · 2026-10-15