Quad 3090 跑 Qwen3.8-Flash-Next-NVFP4,单卡 120 tok/s
QuixiAI · x · 2026-09-07
QuixiAI 宣布在四张 RTX 3090 上用 SlimServe 跑通 nvidia/Qwen3.8-Flash-Next-NVFP4，并发 1 时约 120 tok/s，并发 8 时达 361.7 tok/s，使用其自研的 P2P 驱动 QuixiAI/open-gpu-kernel-modules。
所属事件:Eric Hartford 解锁消费卡 P2P 并开源 SlimServe(10 条相关)→
「Infra」频道最新
- llama.cpp 团队发布 Llama：Mac 菜单栏一键本地跑 AI 模型 — Hugging Face · 2026-10-23
- 中国日均 Token 消耗达 500 万亿,均价一年从 6.8 元涨至 13.46 元 — teortaxesTex · 2026-10-23
- 优化 PCIe 小消息 all-reduce 内核，DeepSeek-V4.1 推理解码提速 12% — AlpinDale · 2026-10-23
- 海上油气平台拟改建为 AI 数据中心，烧闲置天然气供算力 — clemnt · 2026-10-23
- 同为原生 UI:Swift 版 80MB 仅限 Mac,Zig 版 10MB 三端通吃 — jedisct1 · 2026-10-23
- 开源本地版 NotebookLM:SurfSense 全文档问答与文档编辑 Agent — FurtiveMirth · 2026-10-23