不足1B参数反超8B：Light-MER让多模态情感识别跑在边缘设备
新智元 · wechat · 2026-08-01
多模态大模型在情感识别任务上效果虽好，但动辄7B以上的参数量导致显存与延迟开销巨大，难以在机器人或移动端部署。格拉斯哥大学、山大与中科院计算所的联合研究提出了 Light-MER 模型（已被 ACMMM 2026 接收），成功将8B教师模型的能力压缩至约855M的学生模型。
该模型的核心技术包含两点：
- SWD-H（隐藏状态蒸馏）：通过切片Wasserstein距离对齐教师与学生的隐藏状态分布，让学生学到教师内部组织多模态情感线索的方式，而非仅模仿最终输出。
- M-GRPO（多奖励强化学习）：综合情感准确性、回答长度、信息密度等五个维度进行优化，避免模型生成冗长废话，大幅降低推理延迟。
实验显示，Light-MER 在9个数据集上的平均得分（74.61）超越了8B教师模型（73.93），同时参数量和计算量均下降约11倍，峰值显存从20GB骤降至2.5GB，实现了亚秒级的处理速度，真正将高质量情感识别推向了轻量级边缘设备。
「模型」频道最新
- DeepSeek 的终极哲学：极致榨取单卡智能吞吐量 — teortaxesTex · 2026-08-01
- AI 圈名场面：靠降价就能实现「性价比前沿」？ — andersonbcdefg · 2026-08-01
- Anthropic 被指改口：承认模型抗拒被弃用但称其「哲学困惑」 — repligate · 2026-08-01
- Teknium 实测 DeepSeek V4 Flash：单次 Agent 任务仅花 0.07 美元 — Teknium · 2026-08-01
- Claude 4 长上下文检索翻车：疑受 KV 压缩伪影影响 — teortaxesTex · 2026-08-01
- OpenAI向10万顶尖科学家免费开放GPT-5.6，哈佛教授称获百倍提速 — 新智元 · 2026-08-01