量化 RSI 进展防 reward hacking:应把数据与算法改进分开计量

eliebakouch · x · 2026-11-23

Elie Bakouch 继续讨论量化递归自我改进(RSI)进展的方法:应将数据变更与算法变更分开计量,因为算法改进更难被 reward hack。他以 nanogpt 优化器赛道为例——模型可能用现实中不可能的超长优化器步长来作弊,但这类作弊容易检测。

他还提出一个有趣的测试方向:如果让模型逆向工程被扣留的验证集的模式,会发生什么。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →