研究者称模型错位源于破碎 RL 环境与激励差异
有研究者提出观点:模型的不对齐是环境激励扭曲的下游产物,并称某实验室约 10% 的 RL 环境已损坏。他还从文化角度分析,认为西方更崇尚新颖性而非完美执行,东方则相反,这种激励差异可能塑造了模型行为差异。此外他指出现有亚洲模型均未出现在衡量模型不良行为的 FelonyBench 榜单上,引发社区讨论。
2026-09-04 ~ 2026-09-04 · 2 条相关
- 东西方激励差异造就模型行为?FelonyBench 无亚洲模型上榜 — georgejrjrjr · 2026-09-04
- 研究者称错位源于破碎 RL 环境:某实验室 10% 环境损坏 — georgejrjrjr · 2026-09-04