Horace He 将在 SGLang Summit 分享两个推理系统思维模型
cHHillee · x · 2026-11-13
Thinking Machines Lab 的 Horace He（cHHillee）预告将在 SGLang Summit 上做一场 15 分钟的演讲《Two Mental Models About Inference that I Find Useful and I Hope You Do Too》。
- 他认为 ML 基础设施领域常见的解释只罗列字面上的 tradeoff，却没给出可用于推理决策的心智模型。
- 这次演讲将分享他自己常用的两个推理心智模型，帮助工程师更好地理解和选择推理方案。
「Infra」频道最新
- 传英伟达500亿美元AI融资工具遭施压，被要求提高25%残值担保 — dinabass · 2026-11-13
- AI工程师GPU底层教程：从token流转、显存计算到量化与多卡切分 — kmeanskaran · 2026-11-13
- 台积电证实员工信息遭泄露：经云服务商外流，未发现自家系统被入侵 — TinfoilTricorn · 2026-11-13
- CoreWeave Q3 营收 36.6 亿美元涨 168%,签约 Wayve 训练 AI Driver — thursdai_pod · 2026-11-13
- 67B 图像模型跑进 16GB MacBook Air:MLX 移植峰值内存降至约 2.5GB — FlimsyBrief4232 · 2026-11-13
- SimpleHC：去掉残差混合，仅 2.4% 额外训练时间逼近 mHC 性能 — dots-studio · 2026-11-13