Jev 只读两个 token 的概率做判断,大厂为何能轻易复制它?
JnBrymn · x · 2026-09-18
作者 JnBrymn 分析「TypeSafe Jev」这类新产品的技术本质:它不像 LLM 那样逐 token 生成文本,而是用 LLM 只预测特定选项的 next-token 概率来做判断——例如输入差评评论,让它输出「satisfied:1%;dissatisfied:99%」,忽略其他所有 token 的概率直接得出结论。
- 架构与常规 LLM 几乎相同,只是用法不同:OpenAI/Anthropic 理论上只需把输出头换成微调过的分类头即可推出竞品。
- 前沿厂商甚至能做得更好:推理过程中模型可自行判断何时切换到「快速决策头」,在同一个 GPU 上并发输出一个分类 token 后跳回常规生成,让模型获得瞬时判断能力。
- 最大未知数是 Jev 宣称的「Reinforcement Learning for Calibrated Decisions」是什么:从没有概率标注的真实历史事件中让模型生成校准过的概率,可能是其真正的技术壁垒。
注:Jev 疑似圈内玩梗(影射 Jevons 悖论)产品,但作者对「logprob 分类」这一真实技术路线的讨论有参考价值。
所属事件:TypeSafe Jev 靠 LLM 概率分类,大厂可轻易复制(2 条相关)→
「模型」频道最新
- 基于 Qwen3.5 MoE 的 Occamy 1.0 冲上 Hugging Face 热榜 — Accio-Lab · 2026-09-19
- Context7 实测 Jev：快 10-170 倍、便宜 3-20 倍，但复杂推理不行 — gaganghotra_ · 2026-09-19
- Jev 对弈 GLM 5.3:29 步被将死,但每步仅 0.3 秒、成本低 80 倍 — nutlope · 2026-09-19
- Jev 补齐开源与视觉短板:任意 HF 模型一键 Jev 化并上线 Featherless — Aizkmusic · 2026-09-19
- Jev 可替代本地模型做低延迟应用,开源 RLCD 版本可期 — HankYeomans · 2026-09-19
- 两年后应验：研究者重申基础模型将如 RISC/CISC 走向分化 — lateinteraction · 2026-09-19