EdgeRock 开源:恒定内存多模态推理,O(1) 历史建模适配边缘设备
xiaohu · x · 2026-10-23
xiaohu 发布开源项目 EdgeRock(Apache-2.0,GitHub 已 557 star),定位是「恒定内存下的强推理」:多模态模型实现 O(N) 生成与 O(1) 持久历史,避免长上下文推理时内存无限增长。
- 应用场景:机器狗、无人车、边缘硬件的内存有限且固定,还要分给摄像头感知、雷达和电机控制,承受不起大模型推理中途内存暴涨。
- 项目提供了推理与评测代码,附技术报告;仓库含 vLLM/SGLang 适配、使用文档与中英 README。
- 模型权重托管在 Hugging Face(rockmatrix-ai/EdgeRock)。
所属事件:EdgeRock 开源:恒定显存多模态推理适配边缘设备(4 条相关)→
「具身」频道最新
- Figure 每秒产出81分钟数据?从业者批:多为低价值slop数据 — MarcJSchmidt · 2026-10-23
- 车主实测 FSD 14 lite:表现近乎完美,HW3 芯片足够用 — haydendevs · 2026-10-23
- Cybercab 无人出租车现身街头,路人拍到实车 — MatthewChang · 2026-10-23
- ETHZurivh 用 13 分钟人类演示教会 Unitree G1 全身协调爬梯越障 — CyberRobooo · 2026-10-23
- NVIDIA GTC 机器人看点:Agile ONE SN 人形机器人亮相,Isaac Lab 3.0 发布 — lukas_m_ziegler · 2026-10-23
- 特斯拉专利披露:平面印刷+热成型量产机器人指尖触觉传感器 — CyberRobooo · 2026-10-23