TokenSpeed 冲上 GitHub 热榜:主打 Blackwell/Rubin 的极速 LLM 推理引擎
lightseekorg · github · 2026-10-15
GitHub 热门项目 lightseekorg/tokenspeed(Python,约 2.3k stars)自称「光速」LLM 推理引擎,面向 Blackwell(B200/B300)、GB200/GB300、Rubin 及 AMD MI355X/MI455X 等最新加速器优化,支持 DeepSeek、GLM、Kimi、Qwen、MiniMax、GPT-OSS 等多种开源与 VLM 模型。项目信息较少,但硬件覆盖与模型支持范围值得关注。
「Infra」频道最新
- 黄仁勋：每吉瓦 AI 数据中心给 Nvidia 贡献超 400 亿美元 — rohanpaul_ai · 2026-10-15
- Intel D270 显卡曝光:单卡 480G 显存、1.5TB/s,瞄准本地大模型推理 — karminski3 · 2026-10-15
- dottxt 登顶 AutoExacto 榜单,TAU-Bench Airline 达 84.5% — remilouf · 2026-10-15
- 云端数据可迁移的前提:你得付得起迁移成本 — DavidLinthicum · 2026-10-15
- 黄仁勋谈主权 AI：芯片只是工具，数据与知识才命脉 — rohanpaul_ai · 2026-10-15
- 昇腾 CANN 将直播 950 超节点预训练 DeepSeek V4 参考实践 — teortaxesTex · 2026-10-15