DeepSeek-v4-Pro 1美元生成1.3亿Token，成本骤降77倍
bookwormengr · x · 2026-08-27
Interact-vLLM 团队通过 Prefill-Decode 分离技术，在生产环境（2000 GPU）下仅用 1 美元生成了 1.3 亿个 DeepSeek-v4-Pro 的 Token。在缓存命中率相似的情况下，这比 Opus 便宜了 77 倍。
「Infra」频道最新
- 自建算力节点加入 OpenRouter 的经济可行性分析 — ell-hol1 · 2026-08-27
- 分析指英伟达高营收距企业变现仍有数层 — iamKierraD · 2026-08-27
- M1 发布多年后，Apple 芯片性能仍甩开 Intel/AMD — lemire · 2026-08-27
- 自建 vLLM INT8 推理栈：4 张 MI100 跑 Qwen 27B 达 972 tok/s — 1ncehost · 2026-08-27
- 冰岛有望成为欧洲 AI 算力枢纽吗？ — SM_stories · 2026-08-27
- 优化 Agent 工作流：过滤命令输出省下 84% Token — hheadshott · 2026-08-27