DeepSeek v4.1 flash 首字延迟对比:Together 预热查询领先
zhyncs42 · x · 2026-09-18
开发者 EriksReinfelds 分享了各推理供应商运行 DeepSeek v4.1 flash 的 time to first token 对比,称 Together 在预加热查询上表现突出,「没有其他对手」。转发者 zhyncs42 也在传播这份对比。具体数据在配图中。
「Infra」频道最新
- RTX Pro 6000 上 Ninfer 跑 Qwen3.6 35B 达 600 tok/s — CharlesStross · 2026-09-18
- Cadence:印度EDA市场2031年将达78亿美元 — bookwormengr · 2026-09-18
- Google 开源 Agent Substrate:单机塞千个休眠 Agent,恢复仅 500ms — blaizedsouza · 2026-09-18
- Reddit 网友把 6 张 V100 塞进普通全塔机箱搭本地推理服务器 — Odd_Caterpillar_2994 · 2026-09-18
- Crusoe 融资 39 亿美元建 AI 数据中心,估值达 309 亿 — TechCrunch AI · 2026-09-18
- GPU 编程打卡第 257 天:推荐 2.5 小时半导体供应链入门课 — blaizedsouza · 2026-09-18