PyTorch 大会 Demo Theater 13 场演示:Wan 2.2 视频生成提速 53.6 倍
PyTorch · x · 2026-10-22
PyTorch 官方预告 PyTorch Conference 周三 Demo Theater 的 13 场演示,覆盖训练、推理、硬件适配与 agent 工作流:
- AWS Trainium 强化学习:通过 TorchNeuron 原生后端,用 TorchTitan 训练、vLLM-Neuron 生成 rollout、Monarch 编排、TorchStore 同步权重。
- Baseten 讲解 Wan 2.2 视频推理加速:5 秒视频生成压缩到 3 秒内,较基线提升 53.6 倍,手段包括 timestep 蒸馏、定制 kernel 工程与 4-bit 量化。
- Verda Cloud 演示 WideEP:在 NVIDIA NVL72 上做专家并行 MoE 推理,前端用 Rust 实现运行与监控。
「Infra」频道最新
- 推文科普投机解码：不改权重、保持采样分布的加速之美 — cneuralnetwork · 2026-10-22
- 图解投机解码：一次前向通过最多产出 k+1 个 token 且分布不变 — cneuralnetwork · 2026-10-22
- Cloudflare 披露为 OpenAI ChatGPT 站点提供基础设施支持 — ritakozlov · 2026-10-22
- DeepSeek 开源全景：从模型权重到推理引擎几乎全栈开放 — examachine · 2026-10-22
- Meta Prometheus 超算细节：GPU 集群仅 87% 可用，13% 作热备闲置 — SumitGup · 2026-10-22
- 作者自行转换一批 OpenVINO 模型，公开征集更多需求 — Sudden_Topic5154 · 2026-10-22