Cartridges 团队提出「Self-Study 是移动目标」:无标签度量优化 KV 缓存压缩

simran_s_arora · x · 2026-11-05

Ramp Labs 发布研究文章《Self-Study is a Moving Target》,作者 Ben Geist。

Cartridges 是一种把长文档压缩进小型训练 KV cache 的方法,核心是「self-study」——对文档自生成一系列问答进行训练。这篇文章推导出一个无需标签的度量来衡量问题的质量,指出 self-study 本质上是一个移动目标:问题分布随训练不断变化,需要动态判断哪些问题值得继续训练。适合关注长上下文/记忆压缩方向的人深入阅读原文。