Jev 只读两个 token 的概率做判断,大厂为何能轻易复制它?
JnBrymn · x · 2026-09-18
作者 JnBrymn 分析「TypeSafe Jev」这类新产品的技术本质:它不像 LLM 那样逐 token 生成文本,而是用 LLM 只预测特定选项的 next-token 概率来做判断——例如输入差评评论,让它输出「satisfied:1%;dissatisfied:99%」,忽略其他所有 token 的概率直接得出结论。
- 架构与常规 LLM 几乎相同,只是用法不同:OpenAI/Anthropic 理论上只需把输出头换成微调过的分类头即可推出竞品。
- 前沿厂商甚至能做得更好:推理过程中模型可自行判断何时切换到「快速决策头」,在同一个 GPU 上并发输出一个分类 token 后跳回常规生成,让模型获得瞬时判断能力。
- 最大未知数是 Jev 宣称的「Reinforcement Learning for Calibrated Decisions」是什么:从没有概率标注的真实历史事件中让模型生成校准过的概率,可能是其真正的技术壁垒。
注:Jev 疑似圈内玩梗(影射 Jevons 悖论)产品,但作者对「logprob 分类」这一真实技术路线的讨论有参考价值。
所属事件:TypeSafe Jev 决策模型爆红：突破、质疑与复制之争(7 条相关)→
「模型」频道最新
- Mistral Large 4 实测：133 个 agent 挖出并修复 Django CVE 漏洞 — MistralAI · 2026-11-04
- 谷歌联合 Mercor 发布工程基准 PLE,85 项任务全部前沿模型低于 50% — teortaxesTex · 2026-11-04
- ValsAI 实测:四款前沿模型低推理档仍保留 80% 性能且成本减半 — AccBalanced · 2026-11-04
- AI 日报：腾讯开源 Hy4 支持computer use，Siri AI 向全部开发者开放 — testingcatalog · 2026-11-04
- DiffusionGemma 玩出新花样：文本扩散模型加速 computer use 并保隐私 — qberthet · 2026-11-04
- 马斯克证实 Grok Bot 成本难以为继，Hermes 一键迁移抢用户 — Teknium · 2026-11-04