EdgeRock 开源：恒定显存多模态推理适配边缘设备

rockmatrix-ai 开源 EdgeRock 项目（Apache-2.0，GitHub 已获 557 star），提出定长内存推理架构：无论推理链多长、上下文扩展到多少万 token，每请求的注意力与状态显存恒定约 97.76 MiB（KV 缓存仅约 72 MiB），历史压缩为 O(1)、生成复杂度 O(N)。作者称 AIME 跑分 82.9 几乎不掉点，并指出其适合机器狗、无人车等内存受限且需同时供给视觉、雷达与电机控制的边缘硬件。

2026-10-23 ~ 2026-10-23 · 4 条相关

• EdgeRock-4B：推理显存锁定 97.76 MiB,AIME 跑分 82.9 几乎不掉点 — xiaohu · 2026-10-23
• EdgeRock-4B 的用武之地：机器狗与边缘硬件的定长内存推理 — xiaohu · 2026-10-23
• EdgeRock:常数内存跑多模态推理,生成 O(N) 历史压缩 O(1) — xiaohu · 2026-10-23

另有 1 条近重复转述:xiaohu