.042/百万 token 的快速判断模型值… · AGI Hunt

JEV 深度拆解:$0.042/百万 token 的快速判断模型值不值得用

AGI Hunt · wechat · 2026-09-20

AGI Hunt 长文拆解 TypeSafe AI 的 JEV:前 OpenAI 研究员 Diogo Almeida 创办、融资 4000 万美元种子轮,发布 36 小时 14 万人加入候补名单,HN 榜首一整天。

它是什么:面向程序决策的模型,输入 state 与问题定义,并行返回选项、评分或概率,而非逐 token 生成文本。定价 $0.042/百万输入 token,输出免费,端到端延迟 70–500ms,适合低延迟高频的分类与路由,不适合复杂推理与长期规划。

关键实测发现(引用 Archer Hume 黑盒测试):Choice/Score 带的 confidence 是分布统计量而非独立「答对概率」;Noul 正反两问结果之和可超 1,无互补约束;多问题并行比逐个发送快约 10 倍且答案一致;新增选项会改变已有选项的 log-odds(+0.38),提示选项间存在上下文影响。

架构与复刻:官方披露基于预训练 Transformer 做 RLHF、RLVR、RLCD 三条后训练,RLCD 优化「校准的决策」,具体配方未公开。「一次 prefill+读出头」是合理猜测但非官方确认。零训练复刻(LLM logits+温度缩放)可行,有实现报告 5–7 倍提速,但训练时优化校准与事后缩放并不等价,TypeSafe 主张屏蔽非法 token 不等于任务理解。

所属事件:决策模型 Jev 爆火:快 200 倍便宜 400 倍引热议(4 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →