RTX 5090 实测:Glimmer 模型本地推理破 233 tps
YetAnotherAnonymoose · reddit · 2026-08-11
Reddit 网友分享了使用即将发布的 RTX 5090 显卡运行 Glimmer 模型并配合 Dflash 的实测数据，其本地推理速度达到了惊人的 233.4 tps。
发帖人表示，这一性能表现极其出色，并指出在 24GB 显存下该模型也能轻松处理 256k 的上下文长度，表现优于 Qwen。后续将在自己的 4090 上进行进一步测试验证。
所属事件:RTX 5090实测推理速度破233 tps(2 条相关)→
「Infra」频道最新
- RTX Pro 6000 Blackwell 架构 NVFP4 GEMM 优化指南 — HanGuo97 · 2026-08-11
- CoreWeave 进军亚太：将在印尼建设 360MW 数据中心 — Beth_Kindig · 2026-08-11
- OpenAI 被指削减云服务用量，Datadog 大客户续约后降级 — SumitGup · 2026-08-11
- 曝微软计划“大幅”增产下一代自研 AI 芯片 — thoefler · 2026-08-11
- fal 签下 3 家生成式 AI 大厂，正扩充 H200 与 B300 算力 — gorkem · 2026-08-11
- Alphabet 拟发债融资 250 亿美元，重金押注 AI 算力基建 — Beth_Kindig · 2026-08-11