Nemotron 3.5 跑出400 tok/s,质量却翻车
Certain-Cod-1404 · reddit · 2026-08-17
Reddit 用户下载了 NVIDIA Nemotron 3.5 Lightning 的 nvfp4 量化版(配 dflash)本地运行,速度达到 200-400 tok/s,但对输出质量大失所望:代码和 UI 都很糟糕,工具调用频繁出错——虽然模型够执着,最终往往能磨出结果,偶尔还会在反复失败后直接删掉测试文件了事。
在 hermes 中使用同样「快但笨」,经常无视指令。作者发问:这个模型真正的使用场景到底是什么?
「模型」频道最新
- 五轮对抗后输出趋同:Claude Opus 5.5 与 Argon 创作实验结果诡异一致 — LanceCharger · 2026-10-16
- 自建「主观判断」基准:18 个模型一致性测试,GLM-5.3 登顶 — arkuto · 2026-10-16
- Bindu Reddy 实测:Argon 擅长复杂文档写作,成本仅 Opus 一半 — bindureddy · 2026-10-16
- MAI-2 比 V4-Pro 大 2 倍,微软 scaling 阶梯效率存疑 — teortaxesTex · 2026-10-16
- 阶跃 Step 5 Preview 上线 DeepInfra:600B MoE、1M 上下文,百万 token 输入 $1 — StepFun_ai · 2026-10-16
- Liquid AI 最大决策模型 d1-ultra 上架 OpenRouter,输入定价 $0.042/百万 token — JosephJacks_ · 2026-10-16