阿姆斯特丹大学提出免再训练的弹性 Transformer

阿姆斯特丹大学 VISLab 发表论文《Your Transformer Is Secretly Elastic》，提出免再训练的弹性化方法：在冻结权重的前提下，一次性学习覆盖所有 MLP 神经元与注意力头的重要性排序，推理时按任意计算预算剪掉最不重要的单元，让预训练 Transformer 无需重训即可连续适应不同算力场景。

2026-10-15 ~ 2026-10-15 · 2 条相关

• 阿姆斯特丹大学新方法:Transformer 免再训练变身弹性模型 — VISLab-Amsterdam · 2026-10-15
• 一次训练全局重要性排序：Transformer 按算力预算动态剪枝 — cgmsnoek · 2026-10-15