闭源模型可重复性已很高，开源权重仍明显落后
zakkohane · x · 2026-07-23
补充结果很直接：闭源模型的可重复性基本解决了，开源权重还没到位。
- 闭源/商业模型分数普遍很高：GPT-5.2 0.94、Claude Opus 4.8 0.92、Grok 4.5 0.89、Gemini 2.5 Pro 0.85。
- 开源权重模型则稳定性明显更差：Kimi K2-Thinking 0.28、Llama 3.3 70B 0.24、GLM-4.7 0.14。
- 图里把 0.8 画成“高度可重复”的门槛，开源组离这个线还差得很远。
所属事件:临床分诊重测:闭源前沿模型一致性远超开源(6 条相关)→
「模型」频道最新
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11