研究者称可验证奖励只是特例,呼吁软验证

一位研究者提出自认反直觉的观点:以可验证 reward 为代表的 verification 只是特例,真实世界任务远比它模糊。他认为 agent 领域最终需要走向「软验证」(soft verification),用它来固化结果与系统,并借助某种粗略指标衡量投入加固的程度,以此追踪智能的累积。

2026-11-03 ~ 2026-11-03 · 2 条相关