苏黎世联邦理工 SPCL 论文获可持续 AI 工作坊最佳海报奖
thoefler · x · 2026-10-29
苏黎世联邦理工 SPCL 团队的论文《Performance Foundations of Parallel & Distributed Reasoning Language Models》在第三届 EFCL 国际可持续 AI 工作坊获最佳海报展示奖。
论文(arXiv:2608.27046)作者包括 Maciej Besta、Leonard Schmidt、Tiancheng Chen、Torsten Hoefler 等,针对 DeepSeek-R1、o3、Kimi k1.5 等推理模型训练动辄数百万 GPU 小时、高度依赖多模型流水线的问题,做了系统化分析:
- 以计算为中心剖析 PPO、GRPO 及其变体等 RL 后训练框架的性能基础;
- 建立模型内与模型间并行策略(数据、张量、流水线、序列、上下文、专家并行等)的分类体系,旨在帮助构建高性能、可扩展且低成本的推理模型训练系统。
「Infra」频道最新
- 按实际 KV cache 命中计费存争议,OpenRouter 被指有刷量嫌疑 — charles_irl · 2026-10-29
- PyTorch 2.15 发布:NCCL 新后端转正,Blackwell 解码提速 — PyTorch · 2026-10-29
- 美国数据中心建设年化达 850 亿美元,同比暴涨 73% — BenBajarin · 2026-10-29
- Azure Cosmos DB 官方方案:给并行 AI Agent 各配独立隔离数据库 — adnan_hashmi · 2026-10-29
- 空头报告称 Cerebras 晶圆级芯片约两年即报废,股价创新低 — himanshustwts · 2026-10-29
- 苹果内存升级定价离谱:256GB 加 $3600,512GB 要加近 1.4 万美元 — firstadopter · 2026-10-29