Hugging Face TRL 正式支持 AMD GPU,MI300X 跑全套测试

QGallouedec · x · 2026-10-21

Hugging Face 的 TRL 训练库正式宣布官方支持 AMD Instinct GPU。此前 AMD GPU「基本能用」,新变化是团队明确承诺支持并深度测试:每个 PR 都会在 MI300X 上运行完整测试套件。

TRL 官方文档说明:PyTorch 的 ROCm 构建会把 AMD GPU 暴露为 cuda 设备,因此无需改代码即可运行 trainer。安装时用 ROCm 版 PyTorch 加 TRL 即可;注意力内核方面,文档示例用的 FlashAttention 内核暂无 ROCm 构建,AMD GPU 上需改用 kernels-community/aiter-flash-attn(从 Hub 下载)。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →