EdgeRock-4B 开源：KV 缓存固定 72MiB，比基座省 99.1% 显存
testingcatalog · x · 2026-10-31
Rock Matrix 开源了小尺寸图文推理模型 EdgeRock-4B，核心卖点是固定容量记忆：注意力 KV 缓存大小恒定，完整保留最近 1024 个 token，更早的重要信息则存入独立的记忆库（Rock Memory Anchors）供检索，从而避免标准语言模型 KV 缓存随长对话/长推理无限增长的问题。
- AIME 2024–2026 平均 pass@1 达 82.9%，作为对比，其测试的最强有界状态模型仅 18.8%
- KV 缓存固定在每会话 72 MiB，而基座 Qwen3.5-4B 在 256K token 时会增长到 8 GiB（省 99.1%）
- 单 GPU 吞吐 12,124 tokens/s，约为基座的 6.42 倍
所属事件:EdgeRock-4B 开源：KV 缓存恒定省 99% 显存，可本地运行(3 条相关)→
「模型」频道最新
- Gemini 4 Carbon 曝 FrontierCS 2 得分 53 FCI，较 Argon 数周内大幅跃升 — clmt · 2026-10-31
- 爆料称 Gemini 3.5 Pro 多次跳票未发,评论指谷歌败在恢复速度 — tarantulae · 2026-10-31
- Vals 代码迁移榜:Sonnet 5.5 以 86.88% 夺冠,DeepSeek 只花 $1.76 — davidbau · 2026-10-31
- 开发者推测长训练致 Qwen 底座多语言能力退化，拟补多语言数据 — antoine_chaffin · 2026-10-31
- LiquidAI 推出 LFM3-VL 端侧 2B 图文模型,冲上 HF 热榜 — LiquidAI · 2026-10-31
- OpenAI 新政:Pro 订阅按档位送等额 API 额度,$200 档白赚 — Quiet-Recording-9269 · 2026-10-31