Unsloth 支持 AMD 训练 LLM,称提速 2 倍且省 70% 显存
danielhanchen · x · 2026-07-21
Unsloth 宣布已可在 AMD 硬件 上训练和运行 LLM。
- 与 AMD 合作,支持在 AMD GPU 上训练/运行 500+ 模型
- 覆盖 Windows、WSL、Linux
- 官方称可做到 最高 2× 速度、70% 更低显存占用,且不损失精度
- 支持 Radeon、Instinct、Ryzen 以及数据中心 GPU
- 还提供针对 GGUF 和 Safetensors 推理的优化 ROCm 构建
这条信息的核心不只是“又支持一家硬件”,而是把原本更偏 CUDA 生态的本地训练/推理路径,进一步扩展到了 AMD 设备。
所属事件:Unsloth 联手 AMD 扩展大模型训练推理支持(3 条相关)→
「编程与Agent」频道最新
- 受 OpenAI 万机群启发,开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid:只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- 20kb 函数匹配达成,banteg 召集 AI 逆向 Snail Mail 剩余 20 个挑战 — banteg · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题,供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线:性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11