CoreWeave 推出模型蒸馏预览:用生产数据训练小模型替代高价前沿模型
altryne · x · 2026-10-12
CoreWeave 在 Forge 平台推出 Model Distillation 预览服务:当你的任务已用前沿模型调好 prompt 后,可用生产真实样本通过托管 SFT 训练更小的开源权重模型,再在自己流量上对比评测,达标后逐步切流。
关键特性:
- 生产样本自动转化为训练数据,CoreWeave 托管训练基础设施
- 在 held-out 真实流量上对比候选模型与现有模型,可逐条检视差异而非只看总分
- 按切片灰度发布流量,一键回滚,模型可移植
- 持续用新流量构建数据集迭代下一版模型
目标是让单一任务的成本脱离前沿模型定价,作者 altryne 称「合法蒸馏」时代的开始。
「Infra」频道最新
- 马斯克谈制造规模化：中国潜力超全球总和，HBM 仍是难点 — elonmusk · 2026-10-13
- ReplaySSM 进驻 GLM-5.3-Flash 与 Kimi-K3,解码最高提速 2.1 倍 — tri_dao · 2026-10-13
- Reddit 求助:如何在机密 GPU 上部署可验证的私有 AI 推理 — Polstick1971 · 2026-10-13
- GPT-6 Astra 已发两月,Cerebras 超快版仍缺席,是产能还是移植难题? — firstadopter · 2026-10-13
- Hetzner 高性价比服务器一机难求，算力短缺蔓延到欧洲云 — DanielLockyer · 2026-10-13
- Google SRE 书籍十周年推第二版：为 AI 时代重写可靠性实践 — rseroter · 2026-10-13