Relace 成 OpenRouter 最便宜 DeepSeek v4.1 Flash 供应商
ilyasu · x · 2026-09-25
Yann LeCun 转引 colleague EBorgnia 的技术解读:Relace 现为 OpenRouter 上最便宜的 DeepSeek v4.1 Flash 提供商。技术要点:agent 轨迹中 96% 以上是输入 token,GPU 利用率由 prefill 时间主导,且多数 token 与下一步响应无关;DeepSeek 的 encoder/decoder 拆分允许用更「有损」的廉价子模型做 prefill 而不影响 decode 质量;为此重新设计了 attention,把 KV 缓存缩小 4 倍,但跨 GPU 的 KV 传输与充分兑现理论收益仍是 DeepSeek 留给使用者的深度工程难题。Ilya Sutskever 转发并调侃「便宜 token 快来买」。
「Infra」频道最新
- Perplexity 自研 Photon 接管全部检索排序,弃用开源搜索引擎 — perplexity_ai · 2026-09-25
- Perplexity Fast Search 精简排序算力:相关性仅降 0.24 分 — perplexity_ai · 2026-09-25
- Fast Search 六大 Agent 基准实测:单任务成本降 68%,中位延迟 160ms — perplexity_ai · 2026-09-25
- Perplexity 发布 Fast Search:Rust 自研 Photon 驱动,95% 结果 230ms 内返回 — perplexity_ai · 2026-09-25
- Perplexity 推出 Fast Search 检索 API,95% 结果 230 毫秒内返回 — perplexity_ai · 2026-09-25
- Bittensor 团队用普通互联网连 5 数据中心训出 100B 模型 — markjeffrey · 2026-09-25