EdgeRock-4B 开源:常数内存推理破解 KV 缓存膨胀
Rockmatrix AI 开源 4B 模型 EdgeRock-4B,专攻长时运行 agent 的 KV cache 无限膨胀痛点。它采用固定大小的三层记忆(Rock Memory Anchors),生成复杂度为 O(N)、持久化历史压缩至 O(1),处理 256K 上下文仅占 72MiB 内存,且固定记忆不再等于健忘——在 AIME 2024–2026(mean pass@1)上跑出 82.9%,支持单 GPU 并发 512 路长对话。
2026-11-04 ~ 2026-11-04 · 3 条相关
- EdgeRock-4B 用固定三层记忆解 KV cache 膨胀:256K 上下文仅占 72MiB — eyishazyer · 2026-11-04
- EdgeRock-4B 固定记忆跑出 82.9% AIME,单 GPU 并发 512 长对话 — eyishazyer · 2026-11-04
- EdgeRock开源:常数内存推理,历史压缩至O(1)不再吃KV缓存 — eyishazyer · 2026-11-04