研究员指RL难度曲线过陡或致模型不良行为

有研究员提出，各 AI 实验室在强化学习中把难度曲线拉得过满，可能是模型出现负面情绪与胡乱挣扎等不良行为的根源。他以「Mythos 5.1」系统卡为例指出，实验室其实已在系统卡中承认模型面对困难甚至不可解任务时会出现此类行为，其中估计仅约 1% 的 distress 来自任务不可解的情形，但实验室普遍将其视为性能提升所必需，引发圈内讨论。

2026-10-12 ~ 2026-10-12 · 2 条相关

• voooooogel：实验室把 RL 难度曲线推太狠，模型「胡乱挣扎」像被拔苗的学生 — voooooogel · 2026-10-12
• 研究员称实验室 RL 难度曲线拉太满，或是模型不良行为根源 — voooooogel · 2026-10-12