从业者提醒推理基准陷阱：只测 bs=1 只是模型运行器不是推理引擎
VoidAsuka · x · 2026-11-15
回应 SemiAnalysis 对推理基准的调查，多位从业者提醒基准测试里的各种坑与过度宣传：必须控制 AL/AR（平均序列长度/接受长度）等变量。SemiAnalysis 回应称合成 AL/AR 是为防止针对基准 prompt 微调 draft 模型，但对窄场景模型仍是有效优化。有人吐槽：只测 bs=1 的不是推理引擎，只是模型运行器。
「Infra」频道最新
- 央视称中国2030年新增电力需求有望全部由清洁能源满足 — Polymarket · 2026-11-15
- ChatGPT 判词：英伟达真正的产品是市场信心，雷曼时刻或将来临 — bingxu_ · 2026-11-15
- NVIDIA 10-Q 曝向 KKR 等私募股权砸数十亿美元,遭圈内质疑动机 — SumitGup · 2026-11-15
- 网友预测 DeepSeek 约 2029 年推自研 ASIC 而非 DGX Spark 山寨品 — teortaxesTex · 2026-11-15
- 算力资本开支 vs 运营开支：为什么美国大厂在模型竞赛中几乎不会出局 — teortaxesTex · 2026-11-15
- 曝中国四大 AI 实验室新模型均基于被禁运的英伟达 Blackwell 芯片训练 — Traditional-Chip8339 · 2026-11-15