专题 · FULL STORY

Jev 自动路由器:实测惊艳与短板争议

开发者基于 Typesafe Jev 打造的 LLM 自动路由器经多人实测,延迟较 GPT-5.6 Luna 低约 95%、成本大降,引发热议;随后其局限也被指出——路由器只负责选模型,不校验所选模型输出的正确性。

2026-09-17 ~ 2026-09-19 · 2 集 · 6 条

第 1 集 · Jev 自动路由实测:延迟降 95%、成本降九成引热议(2026-09-17,4 条)

多位开发者实测基于 Typesafe Jev 的 LLM 自动路由器:延迟比 GPT-5.6 Luna 低约 95%,单次路由决策约 679ms;同样任务下比全用 Opus 便宜约 9 倍,成功率仅降 4 个百分点。开发者开放了 auto-router playground,路由器按请求分类并结合实际成本(含重试)为候选模型计费比较。也有声音提醒单跳延迟好看不够,多跳串联路由中早期选错模型会级联放大错误,仍需验证。

第 2 集 · Jev打造LLM自动路由器延迟仅679ms,校验短板被指(2026-09-19,2 条)

开发者 airesearch12 展示了基于 Jev 模型构建的自动 LLM 路由器,单次路由延迟仅 679ms,但他承认路由器只负责选择模型,不评估所选模型的回答质量。讨论中有作者点破这一缺陷并提出分级策略:可先用便宜、能力较弱的模型作答,再校验并按需升级到更强模型,以补足路由系统缺失的质量把关环节。