Gut Benchmark 试图评估模型的真实工作手感
TheBookOfWords · reddit · 2026-07-21
这个帖子介绍了一个叫 Gut Benchmark 的新基准网站,核心思路不是比刷榜分数,而是看模型在真实工作里“手感”如何、之后有没有偷偷退化。
- 作者认为传统 benchmark 有两个盲点:一是不能反映模型在具体工作流中的表现;二是基准发布后,模型可能被降级,但 benchmark 分数看不出来。
- 这个项目试图把零散的使用感受和评论变成一个可见、可操作的信号,帮助判断模型是否真的适合工作。
- 配图里的主页也直接把它定义成“你能实际感受到的 benchmark”,并强调记录真实工作体验而不是合成分数。
「研究」频道最新
- 医疗评测:Kimi K3 平 GPT-6,但疑难病例开源落后 17 个百分点 — keunwoochoi · 2026-10-27
- 健康专项榜单洗牌:综合第 9 的开源模型跃居 Health Index 第一 — keunwoochoi · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel,H100 上提速 2.75 倍 — sguada · 2026-10-27
- Goodfire 投入 1000 万美元启动 AI 版「人类基因组计划」破解可解释性 — CatAstro_Piyush · 2026-10-27
- π0.5 实验:演示数从 10 增至 438,放球入碗成功率 7%→83% — stingning · 2026-10-27
- 灵巧操作基准 HandsOn 发布:66 个人工核验任务配 1.8 万条人类示范 — stingning · 2026-10-27