单张 RTX 5090 跑 Qwen3.8 达每秒 255 token
Ir0n · hn · 2026-10-14
HN 帖子报告在单张 RTX 5090 上以每秒 255 token 的速度运行 Qwen3.8 模型，出自 Mesh Applied。对关注本地/端侧部署和高吞吐推理优化的开发者来说是一个值得参考的性能数据点。
「Infra」频道最新
- OpenJet 引擎宣称 Qwen3.8-27B 推理速度达 llama.cpp 1.9 倍 — JeremyCMorgan · 2026-10-23
- 黄仁勋拆解 NVIDIA Vera Rubin 智能体系统四大组件 — rohanpaul_ai · 2026-10-23
- 黄仁勋详解 Vera Rubin 代理系统完整架构:NVL72+MGX+CMX+RTX — rohanpaul_ai · 2026-10-23
- Transformers.js 一条龙：ONNX 模型直接跑进浏览器 — JosephJacks_ · 2026-10-23
- MiniMax M3.1 Flash 在 0G 平台限时免费 3 天,1M 上下文随便跑 — MiniMax_AI · 2026-10-23
- 「押注 Cloudflare 拿到十亿级规模」：R2 与 D1 的老兵回忆杀 — dinasaur_404 · 2026-10-23