本地大模型进入系统提示词时代
recro69 · reddit · 2026-07-07
作者认为本地大模型的体验差距更多来自模型之外的工程，而非模型尺寸本身——包括系统提示词、上下文管理、工具调用、记忆、工作流和评测。 一个配有完整设计的小模型，体验可能优于仅用基础聊天界面的大模型。作者也在征求大家改进本地 LLM 体验的经验。
recro69 · reddit · 2026-07-07
作者认为本地大模型的体验差距更多来自模型之外的工程，而非模型尺寸本身——包括系统提示词、上下文管理、工具调用、记忆、工作流和评测。 一个配有完整设计的小模型，体验可能优于仅用基础聊天界面的大模型。作者也在征求大家改进本地 LLM 体验的经验。