Unsloth 新增 AMD 支持

danielhanchen · reddit · 2026-07-20

Unsloth 宣布正式支持 AMD 硬件,可用于本地推理、微调、强化学习和部署。

这次支持覆盖 Windows、Linux、WSL,技术上也可用于 macOS;支持 Radeon RX 9000/7000、Instinct MI350/MI300、Strix Halo / Ryzen AI Max,以及纯 AMD CPU 推理。官方称,训练最多可减少 70% VRAM 占用,RL 最多可减少 80% VRAM,并会自动安装/配置 ROCm、Triton、bitsandbytes、PyTorch 和 llama.cpp 构建。

此外还支持导出为 GGUF、safetensors、LoRA,能把本地模型接到 Claude Code、Codex、Hermes Agent、OpenCode 等工具,也提供远程监控、Cloudflare HTTPS 隧道和每日更新的 AMD 优化版 llama.cpp ROCm 预编译包。

所属事件:Unsloth 联手 AMD 扩展大模型训练推理支持(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →