EdgeRock-4B 开源:常数内存推理破解 KV 缓存膨胀

Rockmatrix AI 开源 4B 模型 EdgeRock-4B,专攻长时运行 agent 的 KV cache 无限膨胀痛点。它采用固定大小的三层记忆(Rock Memory Anchors),生成复杂度为 O(N)、持久化历史压缩至 O(1),处理 256K 上下文仅占 72MiB 内存,且固定记忆不再等于健忘——在 AIME 2024–2026(mean pass@1)上跑出 82.9%,支持单 GPU 并发 512 路长对话。

2026-11-04 ~ 2026-11-04 · 3 条相关