Baseten 推出 BDN Sealed Volumes:模型数据按摘要挂载,副本字节完全一致
baseten · x · 2026-10-27
推理平台 Baseten 发布 BDN Sealed Volumes:模型相关数据发布一次,即可在任何部署中按 digest 挂载。权重、LoRA 适配器、预构建引擎、embedding 索引、tokenizer 等被封存为不可变版本,每个服务副本读取完全相同的字节,更新时只上传发生变化的分块。配套文章(Stephen Day 等)说明 BDN 旨在跨模型服务基础设施分发任意内容——包括权重、容器镜像与训练 checkpoint。
「Infra」频道最新
- Chutes 公布路线图：剥离亏损推理业务，力推每小时计费与边缘节点 — jon_durbin · 2026-10-27
- Bain:AI 基建狂飙下 HBM 市场将达 1060 亿美元,四年增 26 倍 — Beth_Kindig · 2026-10-27
- AI 热潮引发云计算「圈地运动」，超大规模云厂商加速扩张 — DavidLinthicum · 2026-10-27
- Gemma 推理提速 2.85 倍:vLLM 上突破每秒 10.8 万 token — patloeber · 2026-10-27
- Categorica 开源 NGINX Prometheus 原生指标导出模块，告别 sidecar — Technovangelist · 2026-10-27
- NVIDIA 演示 RTX Spark 上一键运行 Unsloth,本地训练与强化学习 — danielhanchen · 2026-10-27