RandOpt:通过迭代蒸馏实现单次推理高性能

Phillip Isola介绍了其RandOpt工作的最新进展。该工作提出“猜想→集成→蒸馏→重复”的迭代方案,通过多次重复运行该流程,模型性能能够获得持续提升。最终蒸馏出的模型仅需单次推理即可具备出色的性能表现,免去了测试时集成的开销。

2026-07-08 ~ 2026-07-08 · 2 条相关