Burkov 剖析 Jev：两条铁律证伪其速度-质量兼得，附 LLM 等速替代方案
burkov · x · 2026-09-23
机器学习专家 Andriy Burkov 对新模型/方法 Jev 提出两点技术质疑，并给出替代做法：
1. 速度与质量不可兼得
LLM 输出首 token 前的耗时等价于其决策所花算力。若 Jev 输出全部结果的时间比同规模 LLM 打出首 token 还短，质量上就自动输了。
2. 用 LLM 也能做到同样快的分类
以三选一评估为例：
- 构造 3 个请求，问题相同、只各含一个选项（如「这条裙子是红色的可能性打 0-9 分」），共享前缀进入 KV cache；
- 并行只发送 COLOR 一词，各取首个输出 token，得到 [2, 3, 9]；
- softmax 转成概率 [0.09%, 0.25%, 99.66%]。
关闭 thinking 时耗时仅为共享前缀嵌入 + 单选项追加 KV cache + 一位数字生成，三项都极快；开启 thinking 虽慢一些，但质量远胜 Jev。
所属事件:Burkov 锐评神秘项目 Jev：速度宣传疑似 BS(5 条相关)→
「Infra」频道最新
- Cloudflare 推出 agent 运行时：智能体需要的是计算机而非容器 — irvinebroque · 2026-11-12
- 微软承诺自担 AI 数据中心电费，回应公众抗议浪潮 — Polymarket · 2026-11-12
- GitHub 私测 agent 并发试点：按验证交付计价而非推送量 — krishnan · 2026-11-12
- 从业者质疑推理引擎刷 tok/sec：实测任务根本跑不出这些数字 — TheZachMueller · 2026-11-12
- GitHub 新存储架构实测：单仓库每秒 7200 次推送支撑 5000 个 Agent — krishnan · 2026-11-12
- 开源权重侵蚀护城河:中国策略如何稀释美国前沿实验室优势 — Aubrey_D_Graham · 2026-11-12