Nanbeige4.3-33B 实测:单流 59 tok/s,64 并发总计约 1060 tok/s
MaziyarPanahi · x · 2026-10-26
开发者 MaziyarPanahi 公布了开源模型 Nanbeige4.3-33B 的推理速度实测数据,模型权重已在 Hugging Face 上开放。
- 单流生成速度约 59 tok/s
- 10 路并发时每路仍保持约 55 tok/s
- 64 路并发时总吞吐约 1,060 tok/s
- 10 路演示样本是按「思考时长」挑选的,使各路几乎同时完成,而非按对错筛选
「模型」频道最新
- Fintech 圈 AI 重度用户共识:ChatGPT、Claude、Grokbot 位列前三 — LexSokolin · 2026-10-26
- 研究者暗示 DeepSeek 下一代模型或沿用 V3.2 DSA 路线 — YouJiacheng · 2026-10-26
- Anthropic S-1 亮点:半年营收涨 1300%,毛利率 85% — danshipper · 2026-10-26
- EMNLP 论文:多选题评分方案微调即可打乱模型排行榜 — boydgraber · 2026-10-26
- AI 回答可附真实链接与权威引用,关键事实仍可能全错 — alifcoder · 2026-10-26
- Kimi K3 解码每 token 约需 1 TFLOPs,K2 V4.1F 仅需 50 GFLOPs — YouJiacheng · 2026-10-26