Baseten 入驻微软 Foundry:Azure 客户可直接以企业合约跑开源前沿模型
baseten · x · 2026-11-18
- Baseten 宣布在 Microsoft Foundry 公开预览上线,Azure 企业客户可在 Foundry 模型目录中直接测试、部署和扩展由 Baseten 优化推理基础设施驱动的开源前沿模型。
- 企业无需自行采购 GPU 或管理模型运行时,即可享受与 Azure 服务一致的治理、安全、可观测性和统一计费,现有 Azure 承诺额度可直接抵扣。
- 合作定位是让企业在开源与闭源模型间按任务权衡智能、性能与成本,覆盖编码智能体、科研工作流和客服等场景。
所属事件:Baseten 推理服务入驻微软 Foundry,Azure 企业客户可直接部署开源模型(2 条相关)→
「Infra」频道最新
- MLX 经 Vulkan 跑出 124 tok/s,同卡速度反超 CUDA 25% — SumitGup · 2026-11-22
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- Token 经济模型:API 支出四年或增 11.5 倍,但仅 1% 用户能撑起算力账单 — AccBalanced · 2026-11-22
- 零质量损失跑 Strata:调 layer_split 后 CPU 专家未命中率 22% 降至 12% — PathfinderTactician · 2026-11-22
- llama.cpp Vulkan 修复 PR 让 Inkling 2 Mini 推理提速 2.3-3.2 倍 — pmttyji · 2026-11-22
- 千元级 V100 32G 实测 Qwen 27B 量化:Q4_K_M 生成快 48%,Q8_0 预填快 16% — PuzzleheadedArm3732 · 2026-11-22