因果分析优化机器人模型，大幅削减算力与冗余参数

开发者利用 Goodfire 的 Silico 平台对视觉语言动作模型（VLA）进行可解释性分析，发现视觉语言模型与动作专家间的注意力层存在大量冗余。因果分析表明，动作专家通常只读取 VLM 中较窄的中后部层带。基于此对 MolmoB 等模型进行优化，成功删除高达 97% 的跨注意力参数，在保持性能的同时将运行算力骤降 40%，大幅提升了机器人模型的运行效率。

2026-08-05 ~ 2026-08-05 · 2 条相关