RTX 5090 实测跑 Cosmos3-Nano：FP8/FP4 量化突破 32GB 显存限制
fengwang_2_718281828 · reddit · 2026-08-08
开发者成功将 Cosmos3-Nano 模型量化为 fp8 和 nvfp4 格式，使其能够在 32GB 显存预算内运行。同时，作者打包并分享了一个带有 WebUI 的 Docker 镜像，方便其他拥有 RTX 5090 等显卡的用户直接部署和体验。
「Infra」频道最新
- 分析称特斯拉电机磁铁经验或助马斯克攻克芯片 EUV 光刻 — beffjezos · 2026-08-08
- 前 OpenAI 联创 Greg Brockman 疑将投身芯片供应链 — beffjezos · 2026-08-08
- TensorLens：纯浏览器端检查 HF 模型量化分布的开源工具 — Brilliant-Hall1387 · 2026-08-08
- 内存供应告急：2027 年产能已被预订一空 — johnnyApplePRNG · 2026-08-08
- 解决 MiniMax H3 旧显卡黑屏卡顿：FP16 混合精度修复提速 11 倍 — Bubbly_Lawfulness_43 · 2026-08-08
- 单 CPU 跑百亿大模型：微软开源 1.58 bit 推理框架 BitNet — JafarNajafov · 2026-08-08