新基准 JevBench:综合智能、校准、速度与成本评模型
rohanpaul_ai · x · 2026-09-20
新基准 JevBench 针对“有界软件决策”类模型输出设计,配套 TypeSafe 9 月 15 日发布的 Jev:输入应用状态与固定选项,返回带概率的类型化答案而非开放式文本。
- 评分同时纳入智能、校准、速度与成本四项,因为部署时高准确率仍可能失败
- 用几何平均防止单一维度的优异表现掩盖短板
- 结果示例:GPT-5.6 Luna 在困难用例准确率上明显高于 Jev 1.13.0,但 Jev 因延迟、校准与成本优势在综合分上领先
- 作者强调这只证明狭义 typed-decision 工作负载的表现,不等于 Jev 综合能力更强
所属事件:JevBench 基准发布:Jev 1.13 险守榜首,开源紧咬(8 条相关)→
「研究」频道最新
- Cohere等论文:合成预训练收益竟源于嵌入初始化偏差 — LauraRuis · 2026-11-04
- kalomaze 展示 DeepSeek V3.1 底座更大骨干实验,eval loss 降至约 0.82 — kalomaze · 2026-11-04
- Reddit 网友无梯度改写 Qwen 0.6B 权重:39.8M token 让模型「爱上一支乐队」 — Altruistic_Heat_9531 · 2026-11-04
- SpecPilot 智能体自动优化投机解码:速度从 4.46× 提升至 10.87× — pmttyji · 2026-11-04
- 自主 Agent 定制 MSA 策略,提升 AlphaFold 3 蛋白复合物预测 — SJTU · 2026-11-04
- 腾讯 LoCo 用局部偏好学习教会模型何时停止思考,推理大幅变短且不掉准确率 — tencent · 2026-11-04