TinyLeague 弃用 Artificial Analysis 指标，新增小显存友好的 KV cache 效率评分
nunodonato · reddit · 2026-10-28
Tiny League（本地小模型排行站）作者 nunodonato 宣布重大更新：
- 弃用 AA（Artificial Analysis）评分：许多小模型拿不到分数，且 AA 正走向封闭 benchmark，未来开源/小模型的上榜会更少，作为跟踪指标已不可行。
- 新增 KV cache 效率指标：针对显存吃紧的本地部署用户，估算模型在 128K 上下文下的 KV cache 占用 GB 数，并以 0-100% 打分。
- 作者还在构思自家的 TinyLeague-Index 综合指数，但因各模型所用 benchmark 不一，尚未找到公平的方法论。
对本地模型玩家来说，KV 效率指标是选模型时除量化位数外的新参考维度。
「Infra」频道最新
- 云厂商别忘本：企业上云主力仍是计算存储网络等基础服务 — DavidLinthicum · 2026-10-28
- 沙特 HUMAIN 披露 AI 基础设施筹建：选址与电力评估先行 — HUMAIN · 2026-10-28
- llama.cpp 新 PR 融合 MoE 矩阵乘与 GLU,Qwen3 系列 CUDA 吞吐最高提 17% — jacek2023 · 2026-10-28
- 5分钟可视化拆解LLM API调用全链路：从网关到GPU — HowDevelop · 2026-10-28
- 高通 GenieX 让任意 GGUF 模型跑上骁龙 Hexagon NPU，附实测数据 — SkyFeistyLlama8 · 2026-10-28
- 缓存命中价仅 2%：一文讲透 Agent 循环里的 Prefix Caching 省钱术 — Arindam_1729 · 2026-10-28