Berkeley 提出 Population Serving:把推理流量变成免反向传播的训练资源

LChoshen · x · 2026-11-13

Berkeley AI 团队(akshatgupta57、Marquita Ellis、Gopala Anumanthan、LChoshen 等)发布新推理范式 Population Serving,核心想法:推理算力是 AI 中最大的未开发训练资源,模型可以在服务的同时被训练。

• 不再给所有用户同一份权重,而是服务模型的多个轻微扰动副本
• 根据每个副本实际承接的流量对其打分,并周期性合并
• 全程无需反向传播,每个用户查询只需一次推理调用,靠零阶(zeroth-order)方法完成更新

团队已发布博客与推文串详解方法。

原文链接 →

「Infra」频道最新

• 黄仁勋亲笔签名的 NVIDIA DGX 到货，Meta 工程师晒图 — iaindunning · 2026-11-13
• 微软专利曝光：闲置时让 AI 用你的 GPU 训练并付钱 — markjeffrey · 2026-11-13
• 曝美司法部对英伟达发起反垄断调查 — GaryMarcus · 2026-11-13
• 独家：Alice Huang 旗下公司投资 DeepSeek，承诺供应黑市 Blackwell 芯片 — asusarla · 2026-11-13
• AI 主权争论该降温:买 GPU 放自家地皮不等于真主权 — schwarzjn_ · 2026-11-13
• Gemini API 托管智能体接入 Agent Substrate,可跑在你自己的集群上 — rakyll · 2026-11-13

更多「Infra」频道 AI 资讯 →