EdgeRock 架构 256K 上下文 KV 缓存仅 72 MiB,比 Qwen3.5-4B 省 99.1%
alifcoder · x · 2026-10-27
Rock Matrix 团队推出 EdgeRock 架构,解决长上下文下 KV 缓存随上下文线性膨胀的老问题。
- 在 256K 上下文时,每条序列的 attention KV 缓存固定为 72 MiB,而 Qwen3.5-4B 约为 8 GiB,相差 99.1%
- 核心机制 Rock Memory Anchors (RMA):把学习到的记忆存为可直接读取的 KV 记录,放在固定大小的 bank 中,即使内容移出局部注意力窗口也能持续访问
- 架构特点是 O(N) 生成 + O(1) 持久历史,官方称对长推理任务尤其有利
作者还附上了架构图,展示 KV 内存随上下文增长的两条曲线:EdgeRock 保持恒定 72 MiB,Qwen3.5-4B 线性上升至约 8 GiB。
所属事件:EdgeRock 开源：256K 上下文 KV cache 仅 72 MiB(4 条相关)→
「模型」频道最新
- Fable 5.5 发布日,社区期待新玩法 — iruletheworldmo · 2026-10-27
- 蚂蚁系开源模型 Ling-3.1-flash 升级:560B 总参 25B 激活,上下文达 1M — jacek2023 · 2026-10-27
- 用户吐槽 Gemini 无视自定义指令：明令禁止仍自行启动活动 — loriofficialita · 2026-10-27
- 博主公开批评 Kimi 订阅是骗局后遭误判软广锁号 — Scobleizer · 2026-10-27
- 博主改口:Anthropic 模型已全面碾压 OpenAI,与三月前判断相反 — Scobleizer · 2026-10-27
- 重度用户复盘:ChatGPT 建站像导师不当执行者,图像一致性最难搞 — andytechuk · 2026-10-27