Un-0模型研究证实稀疏化可省算力且提升性能

Unconventional AI团队分享了关于Un-0模型架构的稀疏化研究，打破了传统认为稀疏性是性能妥协的成见。原模型的全连接设计导致参数量呈二次方增长，难以扩展。研究引入两种稀疏化方法后，成功消除了高达98%的连接。这不仅大幅降低了算力消耗，还稳定了学习过程，甚至在图像模型中取得了更优的FID表现，实现了无限扩展的可能。

2026-08-14 ~ 2026-08-14 · 3 条相关