Salesforce 利用 SageMaker 组件实现多可用区高可用部署

AWS ML Blog · rss · 2026-08-29

文章介绍了 Salesforce 如何利用 Amazon SageMaker Inference Components (IC) 的新功能解决多可用区（Multi-AZ）高可用挑战。虽然 IC 能通过共享 GPU 将基础设施成本降低 8 倍，但默认部署策略无法保证跨 AZ 的负载均衡。Salesforce 使用 SchedulingConfig 参数（含 AvailabilityZoneBalance 和 PlacementStrategy: SPREAD），确保模型副本均匀分布在不同可用区和实例上，从而满足 2-AZ 合规要求并消除单点故障风险。