Ortet 首次健康评测:34 个开源模型跑 50 项任务,综合排名不够用
elmanmansimov · x · 2026-10-26
AI 创业公司 Ortet 发布首份健康领域评测:在自己的 Orion NVIDIA Blackwell GPU 集群上自托管并评测 34 个开源模型,覆盖 15 个公开健康基准的 50 项任务,并对比 8 个 2026 年 9 月发布的闭源前沿模型(GPT-6 系列、Claude 5.5 系列等)。其中 34 个开源模型里约 75% 是近六个月内发布的,18 个来自最近三个月。
主要发现:
- 通用排行榜不足以衡量健康能力,需要专门的细分评测
- 开源模型在基础医学知识上有竞争力,且更愿意作为研究合作者配合
- 开源和闭源模型在患者预测类任务上都表现挣扎
- 更多推理通常有帮助,但最高推理档位并不总能得到最佳实测分数
- 健康领域排名可以用小子集问题近似估计
这是 Ortet 构建覆盖临床、生物与运营三个维度健康智能的第一步;作者强调开源模型让评测—数据收集—训练—再评测的完整闭环可以完全自控。
「研究」频道最新
- 医疗评测:Kimi K3 平 GPT-6,但疑难病例开源落后 17 个百分点 — keunwoochoi · 2026-10-27
- 健康专项榜单洗牌:综合第 9 的开源模型跃居 Health Index 第一 — keunwoochoi · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel,H100 上提速 2.75 倍 — sguada · 2026-10-27
- Goodfire 投入 1000 万美元启动 AI 版「人类基因组计划」破解可解释性 — CatAstro_Piyush · 2026-10-27
- π0.5 实验:演示数从 10 增至 438,放球入碗成功率 7%→83% — stingning · 2026-10-27
- 灵巧操作基准 HandsOn 发布:66 个人工核验任务配 1.8 万条人类示范 — stingning · 2026-10-27