TRL v1.16 支持 AWS Trainium,微调提速最高 2 倍
QGallouedec · x · 2026-10-20
Hugging Face 团队工程师宣布 TRL v1.16 正式支持在 AWS Trainium 上微调（视觉）语言模型，此前有传言称 Hugging Face 将被 NVIDIA 收购，此发布强调开源 AI 需要硬件多样性。
- 通过 torch-neuronx 原生运行 PyTorch，Trainer 无需改代码即可使用
- Trainium2 上借助更智能的序列长度处理，训练最高提速 2 倍
- 技术要点：Neuron 会为每种输入形状编译计算图（每次约 1 分钟），因此文档主要围绕保持形状静态展开
- SFTTrainer 等现有工作流可直接跑通
「Infra」频道最新
- Google Cloud 伦敦区多服务故障，Revolut 与 Lloyds 等受波及 — neal_lathia · 2026-10-20
- 英伟达 5000 亿美元 AI 基建协议被曝无出处,私募债谈判进展缓慢 — mjdramstead · 2026-10-20
- 本地计算回潮：订阅费堆积与强制 AI 功能催生去云化转向 — DavidLinthicum · 2026-10-20
- DeepSeek 再开源 deepseek-recipe，复刻官方 API 的 token 编解码逻辑 — deepseek_ai · 2026-10-20
- DeepSeek 开源自研推理框架 DeepInfer，支撑 V4.1-Flash 生产级部署 — deepseek_ai · 2026-10-20
- Scott Hanselman 用 Surface Laptop 跑本地推理，给全屋设备共用 — lee_stott · 2026-10-20