Unsloth 单卡微调工作流
burny_tech · x · 2026-07-10
这条转发的是一段技术分享,重点讲了如何用 Unsloth 在单卡上做模型微调:先选基础模型,再写 Triton kernel 提升训练速度,结合 4-bit 量化、GRPO/DPO 训练,最终把推理模型跑起来。原帖还提到,Unsloth 已成为在现有硬件上微调 Llama、Qwen、Gemma、Phi 的常用方案。
burny_tech · x · 2026-07-10
这条转发的是一段技术分享,重点讲了如何用 Unsloth 在单卡上做模型微调:先选基础模型,再写 Triton kernel 提升训练速度,结合 4-bit 量化、GRPO/DPO 训练,最终把推理模型跑起来。原帖还提到,Unsloth 已成为在现有硬件上微调 Llama、Qwen、Gemma、Phi 的常用方案。