Reddit 用户怒批 FP4 推理热潮：小模型 4bit 直接废掉
buttplugs4life4me · reddit · 2026-09-20
一位 Reddit 用户吐槽本地推理社区每天冒出各种「最快推理引擎」帖，但翻到帖子底部才发现只支持 NVFP4/MXFP4。作者认为这些优化在把已经最快的选项再快一点点的同时，输出质量往往严重劣化、幻觉频出。
作者的核心论点：大模型参数多、冗余大，4-bit 量化损失可以容忍；但小型稠密模型被压到 FP4 基本就完全废掉，模型会「1+1=3」，做不了正经事。恳请大家停止这种 FP4 军备竞赛。
「Infra」频道最新
- 分析师推算：国产芯片放量后中国或按 1:2 配比逐步放开 H200 — teortaxesTex · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- 预算级独显服务器租赁指南:OVH、FiberState 及询价技巧 — realmrfakename · 2026-11-12
- AMD EPYC 评测配图神似 ViT 分割模型 logit 伪影，逗乐 AI 研究员 — giffmana · 2026-11-12
- llama-modchip：64GB 内存纯 CPU 跑 284B 模型，零 GPU — pmttyji · 2026-11-12
- Agent Substrate 计算器：预测不同负载下 agent 会话恢复速度 — pjausovec · 2026-11-12