探讨生产环境中大模型与小模型的取舍
Piwo-ll · reddit · 2026-07-10
开发者发起讨论：如果小语言模型(SLM)能够以更低的成本、延迟和部署门槛满足特定业务需求，那么在生产环境中使用大语言模型(LLM)的核心优势何在。 作者预测 LLM 未来可能主要被保留用于复杂任务、研究及模型蒸馏，而大多数商业应用将由专业化的 SLM 驱动，并邀请社区分享具体的落地用例与未来趋势看法。
Piwo-ll · reddit · 2026-07-10
开发者发起讨论：如果小语言模型(SLM)能够以更低的成本、延迟和部署门槛满足特定业务需求，那么在生产环境中使用大语言模型(LLM)的核心优势何在。 作者预测 LLM 未来可能主要被保留用于复杂任务、研究及模型蒸馏，而大多数商业应用将由专业化的 SLM 驱动，并邀请社区分享具体的落地用例与未来趋势看法。