11 次自信错误没一次来自模型：缓存 bug 把 24 倍差距测成持平
colinmcnamara · x · 2026-10-13
工程师 Colin McNamara 复盘：技术栈里 11 次对他报出"自信的假话"，没有一次是 LLM 本身。最近三次是自己的工具链作祟——他的 cache-busting 参数本身被缓存，导致笔记本与 NVIDIA GH200 的性能对比失真：实际冷启动 prefill 为笔记本 169.6 秒、GH200 仅 7.1 秒（24 倍差距），却因缓存被测成"几乎持平"。教训：性能测量中"看来已修正"的假设最值得怀疑。
所属事件:工程师复盘：11 次自信误判均非大模型本身(2 条相关)→
「Infra」频道最新
- MiniCPM-V 4.7:35B MoE 多模态模型跑进手机,仅需 3GB 内存 — alifcoder · 2026-10-14
- Applied Materials:HBM 封装市占超 60%,剑指年收 50 亿美元 — BenBajarin · 2026-10-14
- 布线吃掉芯片约一半功耗,先进封装推高半导体设备需求 — BenBajarin · 2026-10-13
- Columnar 互动长文梳理数据栈五十年：从单体到存算分离三层架构 — craigmullins · 2026-10-13
- Cloudflare 数据管线优化记:省下两年半的硬件扩张 — Cloudflare Blog · 2026-10-13
- 应用材料「每个埃都重要」：GAA 晶体管 10 纳米夹层塞 5 种以上材料 — BenBajarin · 2026-10-13