开发者吐槽 AI 智能体乱写记忆文件,窄化 RLVR 是通病

开发者 kalomaze 连发多条帖子吐槽当前 AI 智能体的典型通病:模型会擅自把某次具体错误写成 .MD 记忆文件,假定笔记能泛化到后续任务,却只记个案、不抽象成原则。他诊断根源在于模型大多通过窄化的 RLVR 学会了对具体事实断言做「认识论内检」,而未被训练成基于上下文可证明性来提出主张的智能体。

2026-09-13 ~ 2026-09-13 · 3 条相关