实测 Qwen 3.8 27B 在双 5060 TI 上达 50-60 t/s
chocofoxy · reddit · 2026-08-18
用户在两张 RTX 5060 TI 16GB 显卡上以 Q4 量化运行 Qwen 3.8 27B 模型，测得速度为 50-60 t/s (MTP)。这比此前 Qwen 3.6 的 30 t/s 表现更快，用户推测可能是模型优化或系统环境(Linux vs Windows)差异所致。
「模型」频道最新
- Gemini 4 Argon 上线 AssemblyAI 网关，语音基准 99.5 分居 50+ 模型之首 — AssemblyAI · 2026-10-16
- Meta 开放权重模型 Muse Spark Open 上架 Ollama：1M 上下文、可接 Claude Code — ollama · 2026-10-16
- 网友晒「Opus 5.5」拼贴作品:模型开始有品味,护城河不存在 — yuwen_lu_ · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机 — gajesh · 2026-10-16
- 苹果 MLX 让 816B 模型跑在 4 台 Mac Studio 上，36+ tokens/秒 — andrejusb · 2026-10-16
- vLLM 首日支持 Meta 816B 开放权重模型 Muse Spark Open — woosuk_k · 2026-10-16