实测 DeepSeek V4.1 Flash 经 Baseten 跑出约 1038 tok/s 生成速度
gajesh · x · 2026-11-01
gajesh 分享截图：通过 Baseten 托管的 DeepSeek V4.1 Flash 1017 Fast 在实际编码会话中实时输出速度达约 1038 tok/s，显示该模型的推理服务速度相当夸张。
「Infra」频道最新
- GPU 租金上涨 25-83%,推理服务商利润遭挤压 — AccBalanced · 2026-11-01
- Musk 披露 Macrohard 算力配置：11 万块 GB200 加 22 万块 GB300 — TinfoilTricorn · 2026-11-01
- RTX 4070 跑 MiniMax H3：12 秒视频 1.5 小时，15 秒却要 5 小时 — Serenaded · 2026-11-01
- AI 板块集体暴跌:Intel 跌 30%,传 Anthropic 获垃圾级评级 — teortaxesTex · 2026-11-01
- 曝 64GB/96GB 显存版 RTX 5090 确认,2026 年 11 月发布 — lxfater · 2026-11-01
- 把笔记本 GPU 借给台式机,用 Qwen 本地生成 Galaga 风格小游戏 — draginol · 2026-11-01