RLVR 可能削弱泛化？
herbiebradley · x · 2026-07-11
作者回应关于概率分布与 RLVR 的讨论，认为随着过去一年 RLVR 持续推进，某个风险/假设应当占据更多概率质量。 他进一步表示，自己对这一点感到困惑：在 AI safety 圈里，很少有人会“认真”地考虑这个问题，且他觉得对方并没有充分依据证据来讨论。 整体是在争论：**RLVR 是否正在带来泛化上的退化或新的风险信号**，以及 **安全圈是否低估了这类证据**。
herbiebradley · x · 2026-07-11
作者回应关于概率分布与 RLVR 的讨论，认为随着过去一年 RLVR 持续推进，某个风险/假设应当占据更多概率质量。 他进一步表示，自己对这一点感到困惑：在 AI safety 圈里，很少有人会“认真”地考虑这个问题，且他觉得对方并没有充分依据证据来讨论。 整体是在争论：**RLVR 是否正在带来泛化上的退化或新的风险信号**，以及 **安全圈是否低估了这类证据**。