EdgeRock:常数内存跑多模态推理,生成 O(N) 历史压缩 O(1)
xiaohu · x · 2026-10-23
rockmatrix-ai 开源了 EdgeRock 项目(GitHub 557 stars,Apache-2.0),主打「常数内存下的强推理」:多模态模型生成复杂度为 O(N),但持久历史记忆压缩为 O(1),避免上下文随对话无限增长吃光内存。
- 已放出推理与评测代码,权重托管在 Hugging Face,并附技术报告
- 提供 vLLM/SGLang 集成文件、Dockerfile 与使用文档
- 典型场景:机器狗、无人车、边缘硬件等内存固定且要分给摄像头、雷达、电机控制的设备,大模型无法承受运行中内存膨胀,EdgeRock 的常数内存特性正好解决这一痛点
所属事件:EdgeRock 开源:恒定显存多模态推理适配边缘设备(4 条相关)→
「具身」频道最新
- 车主实测 FSD 14 lite:表现近乎完美,HW3 芯片足够用 — haydendevs · 2026-10-23
- Cybercab 无人出租车现身街头,路人拍到实车 — MatthewChang · 2026-10-23
- ETHZurivh 用 13 分钟人类演示教会 Unitree G1 全身协调爬梯越障 — CyberRobooo · 2026-10-23
- NVIDIA GTC 机器人看点:Agile ONE SN 人形机器人亮相,Isaac Lab 3.0 发布 — lukas_m_ziegler · 2026-10-23
- 特斯拉专利披露:平面印刷+热成型量产机器人指尖触觉传感器 — CyberRobooo · 2026-10-23
- 探访深圳机器人臂工厂:月产 2000 台、单价约 1.5 万美元 — DominiqueCAPaul · 2026-10-23