PyTorch CTO 将探讨开源 AI 推理经济与工作流优化

PyTorch · x · 2026-07-22

PyTorch 基金会 CTO Matthew White 将在 AMD 大会上发表题为《加速开源 AI：恰到好处的智能》的演讲，探讨如何通过开源项目重塑推理经济学。

演讲将提出一种替代“所有任务都使用前沿大模型”的实用方案，核心步骤包括：分解工作流、选择合适尺寸的模型、智能路由与缓存、仅在必要时升级任务，以及衡量每个成功完成任务的成本。目标是实现更好的“单位美元智能”，将失败、重试和审查等成本纳入计算，从而从每笔 AI 投入中获得更多正确的业务成果。