工程师复盘：11 次自信误判均非大模型本身

工程师 Colin McNamara 撰文复盘其本地推理系统：用笔记本加一块 GH200，并通过语义路由器让简单请求走本地小模型、难题交给 27B 模型。结果技术栈先后 11 次对他报出自信的错误结论，没有一次来自 LLM 本身，最近三次问题源于自己的工具链——例如 cache-busting 参数的缓存 bug，曾把 24 倍的性能差距测成持平。他借此提醒开发者警惕测量陷阱，而非急于归咎于模型。

2026-10-13 ~ 2026-10-13 · 2 条相关