EdgeRock-4B 把 KVCache 砍 99.1%：256K 长推理内存恒定 72MiB 并已开源
量子位 · wechat · 2026-10-19
岩山科技旗下岩芯矩阵联合港科大、CMU 等发布并开源 EdgeRock-4B，通过"记忆岩锚"（Rock Memory Anchors, RMA）机制实现推理内存不随上下文增长：256K 上下文下 KVCache 恒定 72MiB，较源模型减少 99.1%。
核心成绩：单张 80GB Hopper 显卡同时跑 512 路 32K+32K 长推理，输出吞吐 12124 tokens/s，为源模型 Qwen3.5-4B 的 6.42 倍；AIME 2024–2026 平均一次通过率 82.9%，远超 16 个有界状态模型对照组（最强的 14B 模型仅 18.8%），并保留源模型约 96% 的数学推理能力。
技术原理：将序列历史分三部分保存——循环状态抓大意、1024-token 局部窗口管眼前、锚点库（1024 条、固定容量）留住关键细节；写入器生成候选、评分网络打分，每 256 条候选择优留存。关闭 RMA 后长上下文问答准确率从 94.1% 跌至 0.4%，证明锚点确在读远处信息。
模型由 Qwen3.5-4B 分阶段转换而来，无需从头预训练，权重与代码已开源、可商用，论文与代码见 rockmatrix.ai。
「Infra」频道最新
- IFM 开源 RL360:8192 并发沙箱、130 万 rollouts 的 RL 基建 — rupspace · 2026-10-23
- SpaceX 拟接入 8 万座美国基站，博彩市场给了 29% 成运营商概率 — Polymarket · 2026-10-23
- Modular 宣布 MAX 框架开源：AI 计算不应被单一芯片厂商锁定 — clattner_llvm · 2026-10-23
- Claude 模型登陆 Google Cloud:Anthropic 托管版正式可用 — claudeai · 2026-10-23
- GLM-5.3-Flash 实现 1M token 上下文训练，较基线提升 64 倍 — AndrewLBeam · 2026-10-23
- Perplexity 联手 AMD 推便携 AI 主机，本地跑 27B 模型做实时研究 — AravSrinivas · 2026-10-23