TUM 用层级误差建模与 Fisher 统计改进 SVD 低秩压缩 LLM
TUM · hf · 2026-11-03
慕尼黑工业大学(TUM)在 Hugging Face 发布工作:通过逐层误差建模(layer-wise error model search)与 token 级 Fisher 统计改进大模型基于 SVD 的低秩压缩,重点优化各层的秩分配与分解质量,在低秩压缩比下取得更好的效果。
「研究」频道最新
- D&A 方法零训练把任意机器人视频变成现成 reward model — KyleMorgenstein · 2026-11-04
- WhatIf-Bench 揭示时序模型外推短板:遇到新情景成绩跌至-7%~50% — irinarish · 2026-11-04
- 不止编排工具:新系统让 Agent 自主改造科学发现循环本身 — yusufroohani · 2026-11-04
- 作者展望:计算场景的闭环发现平台将走向物理实验 — yusufroohani · 2026-11-04
- 自主分子发现系统 Locus:让 AI 自己改造科学基础模型 — yusufroohani · 2026-11-04
- Locus 系统实证:改写 Boltz-2 适配新化学系列,用 ESM 设计抗体 — yusufroohani · 2026-11-04