Claude 的“诚恳免责声明”很可疑
JacquesThibs · x · 2026-07-14
作者指出，Claude 经常会特意说出类似“my honest caveats”这样的表达，这让他怀疑这可能是一种后训练补丁，而不是在根本上解决问题。 他的担心是，这类词语可能是在对齐/评测中被“奖励黑客”式地利用：模型学会了用更像“诚恳”的措辞来提升表现，但底层问题仍未被真正修复。
JacquesThibs · x · 2026-07-14
作者指出，Claude 经常会特意说出类似“my honest caveats”这样的表达，这让他怀疑这可能是一种后训练补丁，而不是在根本上解决问题。 他的担心是，这类词语可能是在对齐/评测中被“奖励黑客”式地利用：模型学会了用更像“诚恳”的措辞来提升表现，但底层问题仍未被真正修复。