「Benchmark 只用来淘汰差模型,好模型得拿自己的活儿测」
ChemicalExcellent463 · reddit · 2026-11-10
一位开发者分享自己的模型评测方法论:benchmark 对他来说是底线而非排行——超过某个分数后全都饱和,只能用来排除差模型,好模型必须在自己的实际工作上测试。
他的两个测试维度:
- 执行:把另一个 agent 的计划交给模型,看能否一口气完成,不在半路停摆或在第一个难题上卡死;覆盖代码、搜索、写作。
- 检查:看它能否比旧模型发现更多或更深的 bug。执行和检查各有不同标准,且两条线都在水涨船高。
此外他仍持续排查的老毛病:话多活少、逻辑漏洞、理解错需求还猛跑错方向。
「模型」频道最新
- 曝 Anthropic「Mythos 5.5」藏于官网代码,OpenAI「Astra 6.2」现于 Codex 数据 — haider1 · 2026-11-10
- Kaggle 私榜启示:呼吁 AI 模型评测也该有「揭榜时刻」杜绝挑优 — MeganRisdal · 2026-11-10
- 六款免费开源模型分工指南:从日常写作到公司服务器各有所属 — alex_verem · 2026-11-10
- xAI 七款 Grok API 模型默认加隐形水印,11 月 7 日起生效 — thione · 2026-11-10
- 月之暗面开源 Kimi K3.1 Pro:2.8T 参数多模态 Agent 模型,百万 token 上下文 — thione · 2026-11-10
- OpenAI 向获批准的安全团队开放 GPT-6 Cyber,扩展漏洞利用能力 — thione · 2026-11-10