Soup:单 YAML 微调 LLM,8B 模型在 4GB 显卡上训练

MakazhanAlpamys · github · 2026-08-15

Soup 是一个 Python 工具,通过单个 YAML 配置文件即可微调 LLM。它采用分层流式训练(layer streaming),使得 8B 模型可以在 4GB 显存的消费级 GPU 上训练。支持 LoRA、QLoRA、SFT、DPO 等方法,兼容 GGUF、Ollama 等。今日新增 303 星,总星标 1431。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →