冻结Gemma4的KV缓存拼接法

MindPsychological140 · reddit · 2026-07-19

作者发布了一种方法:把已验证知识存成 KV 状态,并在需要时恢复成与重新计算字节级一致的结果。

他们称在 Gemma 4 12B 上,这种缓存知识的做法让同一个路由系统在 AIME 2025 上从 76.7% 提升到 90.0%。帖子同时给出论文链接(arXiv:2607.14431),并说明作者将于 7 月 19 日在 AGI Summit 做分享。

所属事件:KV缓存拼接法瞄准冻结小模型增强(2 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →