batch-llama-benchy：本地模型批量基准测试工具
LevelSoft1165 · reddit · 2026-08-15
开发者发布了一款名为 batch-llama-benchy 的工具，用于快速批量评测本地模型的速度。该工具旨在解决 MTP 模型（如 Ornith）具有多种 spec-draft 变体时，逐一测试耗时过长的问题。用户可以通过一条命令同时测试多个模型变体，并生成优化生成速度权衡的结果图表。
「Infra」频道最新
- VC 观点：效率而非性能成 AI 基建新战场 — rudina11 · 2026-08-15
- AMD 提出 Agent 时代新指标：每兆瓦线程数 — xiaosun86 · 2026-08-15
- LFM 2.5-2.6B 开源版两天遭 43 亿次调崩 — maximelabonne · 2026-08-15
- 应对HBM短缺：华为采用HBF宽内存等四项技术 — bookwormengr · 2026-08-15
- 算力电力受限，模型多路由带故障转移将成基建标配 — shensi · 2026-08-15
- SpaceXAI投资大型水回收系统，每日循环1300万加仑废水 — XFreeze · 2026-08-15