Jev 按十亿 token 计价,百万 token 成本几乎为零
HanchungLee · x · 2026-11-08
Gergely Orosz 发现其新搜索网站 Jev 使用超过 100 万 token 后成本仅 $0.00——换成常规 LLM API 已需 $3-5。Jev 按「十亿 token」而非百万计价。
Hanchung Lee 补充账:BERT 时代 512 token × 32 minibatch 约 16k token、延迟 <50ms,约 32.5 万 token/秒,摊销后 100 万 token 基本免费。这说明面向搜索类场景的小模型推理成本已低到可以忽略,也解释了产品为何能免费病毒式传播。
「创投」频道最新
- 32 家新 AI 实验室融资与创始人引用量关联:合计 260 亿美元、835 万引用 — ziv_ravid · 2026-11-08
- OpenAI 研究员:AI 一天迁移监控栈,日志成本降 38 倍 — LiamFedus · 2026-11-08
- Thread 获评最佳 pitch:为每个客户配一个常驻 AI 客户经理 — Scobleizer · 2026-11-08
- YC 创始人 O-1 签证被拒:12 次评委+论文+7 封推荐信仍不够 — anshulkundaje · 2026-11-08
- Spotify 将推 AI 改编歌曲功能,评论者忧「稀释人性与艺术」 — TuhinChakr · 2026-11-08
- 机器人创企成立三个月获 a16z 与 Accel 投资,扩张商业部署团队 — espricewright · 2026-11-08