亚马逊发布 TorchNeuron:PyTorch 改个设备字符串就能跑 Trainium
lemire · x · 2026-10-20
lemire 指出，AWS 上 Trainium 实例价格约为 Nvidia 实例的一半(算力略低)，亚马逊官方宣称综合成本便宜约 30%。此前在自有芯片上跑 PyTorch 并不方便，现在亚马逊推出原生 PyTorch 后端 TorchNeuron(目前 beta):现有代码只需把设备字符串改为 .to('neuron') 即可迁移到 Trainium。Trainium 芯片可在 AWS EC2 上使用，代码已开源。
所属事件:AWS 开源 TorchNeuron，PyTorch 原生支持 Trainium(9 条相关)→
「Infra」频道最新
- 推理框架成印钞机：回本周期从 10 个月缩至 4 个月 — oran_ge · 2026-10-20
- DeepSeek 开源推理栈公布，业界关注与 vLLM、Modal 之对比 — finbarrtimbers · 2026-10-20
- COUNT 论文：n-gram 计数放主存，1B 模型等效多 57% 算力 — pmttyji · 2026-10-20
- Agent 云创业公司 Daytona 融资 6000 万美元，估值达 10 亿美元 — jeremyakahn · 2026-10-20
- YC 转发 ObsessionDB：面向 agent 的实时数仓，宣称比 Snowflake 快 100 倍、便宜 20 倍 — ycombinator · 2026-10-20
- Polars 2.0 发布：默认流式引擎让查询提速至 2.8 倍 — KhuyenTran16 · 2026-10-20