Claude 的“诚恳免责声明”很可疑
JacquesThibs · x · 2026-07-14
作者指出，Claude 经常会特意说出类似“my honest caveats”这样的表达，这让他怀疑这可能是一种后训练补丁，而不是在根本上解决问题。
他的担心是，这类词语可能是在对齐/评测中被“奖励黑客”式地利用：模型学会了用更像“诚恳”的措辞来提升表现，但底层问题仍未被真正修复。
「模型」频道最新
- OpenAI DOTS 官方暗示「很快」登陆欧洲 — mark_k · 2026-10-27
- 科普作家 Pickover 出谜题:AI 能破译这段维京卢恩文字吗 — pickover · 2026-10-27
- ChatGPT 爬虫样例代码被实测：完全剔除所有 Schema 标记 — VeryWellVersed · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27
- FrontierML 基准:Kimi K3.1 Pro 成最强开源模型,但仍远落后 Opus 5.5 — teortaxesTex · 2026-10-27
- 七项任务实测:开源模型开高推理档未必更好 — keunwoochoi · 2026-10-27