IsoLoCo新优化器提升扩展性

irinarish · x · 2026-07-09

IsoLoCo 是一种面向 DiLoCo 风格方法的新外层优化器。帖子称它在效果上优于 DiLoCo 和 MuLoCo，并且在更大规模下扩展性更好。