Linux 内核模块解锁 RTX 3090 半速张量核心,BF16 算力提升 1.9 倍
UltramanQuar · reddit · 2026-10-23
Reddit 用户转述 X 上的说法并求证:NVIDIA 出厂时把 RTX 3090 的 fp32 累加张量运算限制在半速,驱动里甚至直接报告 FMLA32 = 1/2。Zagitta 的 gpu-unlock 项目在 NVIDIA 驱动加载前把该限制改为全速,冷启动后四张卡均显示 FMLA32 = full。
实测数据(原帖作者自测):
- BF16 张量管线:82 → 155 TFLOPS
- cuBLAS BF16 GEMM 8192:64 → 99 TFLOPS
- TF32:41 → 79 TFLOPS
- 真实推理(Strata、Qwen3.8 Flash-Next,双卡):4K/10K 预填充 +12%,90K 从 3205 提升到 3536 tok/s(+10%),低于此前预估的 +1419%
作者分析:GEMM 阶段缩短了 23%,但只占 Strata 预填充约 40%,int8 专家、拷贝与 CUDA core kernel 没有变快。输出未受影响——相同专家缓存下,1996 个 teacher-forced 位置的 log-prob 与未打补丁时逐字节一致。作者在问 40 系显卡是否同样适用。
所属事件:社区补丁解锁 RTX 3090 张量算力,BF16 性能提升 1.9 倍(3 条相关)→
「Infra」频道最新
- Suhail 高价收货:公开求购用于模型的 RL 内核优化任务 — AIFlow_ML · 2026-10-23
- GitHub 自述:99.99999% 仓库已迁至 Azure,按引用级仲裁解锁 agent 规模并发 — marlene_zw · 2026-10-23
- 黄仁勋到访阿斯塔纳,与哈萨克斯坦副总理畅谈 AI 国家战略 — nvidia · 2026-10-23
- 实测RTX 4060:FP16矩阵乘法并非恒快2倍,大矩阵提速约3.5倍 — cneuralnetwork · 2026-10-23
- BaseQuant V1 量化 Qwen3.8-27B,KL 散度比 Unsloth 低 17–34% — nightowlsleeping · 2026-10-23
- 欧洲博士生可随需使用 B200,美国同行要靠数据创业公司养项目 — HildeKuehne · 2026-10-23