EdgeRock 开源多模态模型,256K 上下文 KV cache 仅 72 MiB

rockmatrix-ai 发布并开源多模态模型 EdgeRock,主打「恒定内存下的强推理」,生成复杂度为 O(N),历史记忆为 O(1)。该架构针对传统模型上下文增长导致 KV cache 内存膨胀的问题,在 256K 上下文下每序列的 attention KV cache 恒定为 72 MiB,比 Qwen3.5-4B 小 99.1%,显著降低长上下文场景的内存开销。

2026-10-27 ~ 2026-10-27 · 2 条相关

• EdgeRock-4B KV cache 256K 上下文仅 72 MiB,比 Qwen3.5-4B 小 99.1% — alifcoder · 2026-10-27
• EdgeRock 开源：256K 上下文 KV cache 仅 72 MiB，比 Qwen3.5-4B 小 99.1% — alifcoder · 2026-10-27