MoE 具身视频流的实时优化细节
omarsar0 · x · 2026-07-11
回复补充了系统与结构细节：为了实现实时，采用了双专家蒸馏、FP8 TensorRT、paged KV-cache 和运行时清理，把单块延迟从 927ms 降到 142ms，端到端最高达到 6.5 倍提升。结构上使用稀疏 MoE 视频流，包含 128 个专家、top-8 路由和一个共享专家，总参数约 13B、每 token 激活约 1.9B，从而兼顾复杂视觉动态和高频控制。
所属事件:LingBot-VA/VLA 2.0发布:原生具身基础模型与跨机身控制(24 条相关)→
「具身」频道最新
- 亚马逊谷歌卖出6亿台音箱,AGI 时代为何无人再造智能音箱 — julianlehr · 2026-09-11
- ECCV26 口头论文：流匹配实现多视角点云配准 — ducha_aiki · 2026-09-11
- 波兰开发者做 iPhone 应用 可探测附近的 Meta 智能眼镜 — Low-Honeydew6483 · 2026-09-11
- 蚂蚁阿福用户达 1.5 亿，外滩大会展示 AI+硬件健康管理联盟 — APPSO · 2026-09-11
- JHU 开设全栈机器人学习课:组装机械臂、采数训练部署一条龙 — _krishna_murthy · 2026-09-11
- SyncWorld:少量视觉校准即可零样本模拟机器人跨视角交互 — ChongZzZhang · 2026-09-11