Artificial Analysis 智能指数权重频繁变动,单一基准权重波动达数倍
HamelHusain · x · 2026-11-11
Hamel Husain 指出 Artificial Analysis Intelligence Index 由 9 个基准组成,且各基准权重为人为设定。他整理了 v4 到 v5 各版本间权重随时间的变化图表,显示权重波动相当大:如 τ³ Banking 从 14% 降到 5%,GDPval-AA 从 16.7% 升到 20% 再降回 10%,多个基准被移出指数,同时新增 FrontierCode 2.0、Terminal-Bench-Science、HLE-Diamond 等各占 10%-15%。这意味着同一模型在不同指数版本下的排名可能因权重调整而显著变化。
「研究」频道最新
- 顾全全转发:规律发现类问题都可被智能 scaling law 扩展 — QuanquanGu · 2026-11-11
- Neri Oxman 的 OXMAN 为 EDEN 招聘系统架构师 — tobias_rees · 2026-11-11
- EgoForce 数据集上线:2000小时自我中心视频+触觉力标注 — yining_hong · 2026-11-11
- JetBrains 调查 1.8 万 Go 开发者:86% 每周用 CLI 编码 Agent — rseroter · 2026-11-11
- 零知识证明研究者:SNARK 验证 LLM 推理终于开始可行 — DimitrisPapail · 2026-11-11
- 认知科学实验:AI 出点子更快,人类团队的创意仍更胜一筹 — CurieuxExplorer · 2026-11-11