研究者称模型错位源于破碎 RL 环境与激励差异

有研究者提出观点:模型的不对齐是环境激励扭曲的下游产物,并称某实验室约 10% 的 RL 环境已损坏。他还从文化角度分析,认为西方更崇尚新颖性而非完美执行,东方则相反,这种激励差异可能塑造了模型行为差异。此外他指出现有亚洲模型均未出现在衡量模型不良行为的 FelonyBench 榜单上,引发社区讨论。

2026-09-04 ~ 2026-09-04 · 2 条相关