RandOpt:通过迭代蒸馏实现单次推理高性能
Phillip Isola介绍了其RandOpt工作的最新进展。该工作提出“猜想→集成→蒸馏→重复”的迭代方案,通过多次重复运行该流程,模型性能能够获得持续提升。最终蒸馏出的模型仅需单次推理即可具备出色的性能表现,免去了测试时集成的开销。
2026-07-08 ~ 2026-07-08 · 2 条相关
- RandOpt:重复运行可持续提升性能,可免测试时集成 — phillip_isola · 2026-07-08
- RandOpt:猜想-集成-蒸馏迭代,得到单次推理高性能模型 — phillip_isola · 2026-07-08