冻结Gemma4的KV缓存拼接法

MindPsychological140 · reddit · 2026-07-19

作者发布了一种方法:把**已验证知识存成 KV 状态**,并在需要时恢复成与重新计算**字节级一致**的结果。 他们称在 **Gemma 4 12B** 上,这种缓存知识的做法让同一个路由系统在 **AIME 2025** 上从 **76.7% 提升到 90.0%**。帖子同时给出论文链接(arXiv:2607.14431),并说明作者将于 7 月 19 日在 AGI Summit 做分享。

所属事件:KV缓存拼接法瞄准冻结小模型增强(2 条相关)→

原文链接 →