Surge AI在Kaggle Bench Summit谈基准的未来:更像真实工作
echen · x · 2026-10-28
Surge AI 团队在旧金山 Kaggle Bench Summit 演讲,主题是「当基准越来越像真实工作而非基准时会发生什么」:模糊的 prompt、混乱的环境、以及专业人士每天要做的判断题。
作者 Eric Chen 回顾了 15 年前自己参加 Kaggle 竞赛的经历,感叹 AI 如今在训练模型上已远超自己,并表态自己上不了 Kaggle 排行榜没关系,期待 Surge 的基准能上榜。演讲将分享其构建 DAYJOB、sudo L7、GDP. 等基准的经验,以及前沿模型为何仍在这些真实工作型评测中挣扎。
「公司和人」频道最新
- IBM 技术大会总结企业落地 AI 智能体的三大挑战 — craigmullins · 2026-10-29
- AI Horizons 论坛开放申请,11月30日截止助力新人进入 AI 安全领域 — ben_j_todd · 2026-10-29
- OpenAI 柏林 DevDay:Dots 数周内登陆欧洲,德国 Codex 周活涨 20 倍 — The Decoder · 2026-10-29
- 网友对比 AI 实验室画风:Anthropic 低调专业,别家像动物园 — brandon_galang · 2026-10-29
- 科学家评 Anthropic 生命科学:许多罕见病缺的是钱不是科学 — anshulkundaje · 2026-10-29
- a16z Casado:VC 争论混乱,源于四种投资思维被混用 — a16z · 2026-10-29