Sail 开源 HTDYM 工具:解析哪款芯片性价比最高

cgarciae88 · x · 2026-08-31

Sail Research 开源了内部性能建模基础设施 HTDYM (How To Deploy Your Model)。这是一个帮助分析和选择模型部署最优硬件与分片配置的工具。Sail 的理念是“没有坏芯片,只有坏价格”,HTDYM 能根据模型特性(如 MoE、精度、注意力机制)和工作负载(prefill 与 decode 阶段的差异)计算出每美元的 token 数,从而找到被市场低估的硬件。工具代码已开源,并提供在线演示版本。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →