Nathan Lambert 长文剖析评测困境:私榜与开源模型真实差距

Hugging Face 研究员 Nathan Lambert 在 Interconnects 发文《Artificial Analysis v5 and the benchmarker's dilemma》,借 AA v5 指数发布之机探讨评测行业转向私有基准的趋势。他认为开源模型「衰亡」的说法被夸大,但此前的 AA 指数确实美化了开源模型表现;私榜虽常显示开源模型差距更大且能防刷榜,却失去社区帮助发现 bug 的透明度。他同时为独立评测和开源模型辩护,指出基准测试比想象中更难、更主观。

2026-10-28 ~ 2026-10-28 · 4 条相关