隐性奖励函数与 RSI：自动化之外，人机摩擦才是价值所在

soumitrashukla9 · x · 2026-10-09

sebkrier 引用 danielrock 推荐的一篇仅 12 页的论文，讨论组织中的隐性知识（tacit knowledge）。论文引 Nonaka 观点：模糊性、冲突与崩溃能迫使组织成员重新审视习以为常的假设。作者由此提出一个关于 RSI（递归自我改进）闭环的思考：很多 ML 研发任务可自动化，但「什么算更好的模型」往往取决于随时间展开的外部反馈回路——人机交互的部分价值不可还原为被自动化的具体任务，而是来自不同知识类型之间的摩擦。danielrock 评论称关于隐性奖励函数的启示是来之不易的知识。