Sail 开源 HTDYM 工具:解析哪款芯片性价比最高
cgarciae88 · x · 2026-08-31
Sail Research 开源了内部性能建模基础设施 HTDYM (How To Deploy Your Model)。这是一个帮助分析和选择模型部署最优硬件与分片配置的工具。Sail 的理念是“没有坏芯片,只有坏价格”,HTDYM 能根据模型特性(如 MoE、精度、注意力机制)和工作负载(prefill 与 decode 阶段的差异)计算出每美元的 token 数,从而找到被市场低估的硬件。工具代码已开源,并提供在线演示版本。
「Infra」频道最新
- 结合 SKILL.state,我在单张 5090 上跑出 200k 上下文编码 — Ok-Shower7286 · 2026-08-31
- 微软 HotChips 演示揭示 AI 集群带宽瓶颈 — bookwormengr · 2026-08-31
- 「3 个月涌现 3 个 agent 文明」,边际 token 买家已不是人类 — arthurcolle · 2026-08-31
- 马斯克预言明年 AI 超人级数字能力,算力军备加速 — apples_jimmy · 2026-08-31
- 独家:SK海力士拟将HBM4E基础裸片部分外包英特尔代工 — BenBajarin · 2026-08-31
- 月费 200 美元却让 OpenAI 月亏 1.4 万,真事改编 — BuildersReadOnAI · 2026-08-31