新项目如何选 LLM 供应商？成本与速度成考量关键

Puzzleheaded-Fig1589 · reddit · 2026-08-17

开发者发帖探讨为新项目选择 LLM API 的决策标准。指出现在的选择重点已从单纯追求“模型最聪明”转向成本、速度、可靠性和质量之间的权衡。作者列举了多个评估维度，包括输入/输出定价、延迟、上下文窗口、编码性能、结构化输出/工具调用、速率限制、可靠性、API 兼容性以及规模化后的总体成本。希望能了解社区在实际生产环境中是如何做基准测试，以及哪些因素会导致在项目上线后更换供应商。