博主明日在 GB300 级主机实测主流模型,征集微调测试思路
zxtech · reddit · 2026-11-03
一位硬件内容创作者明天将上手一台配 1TB 内存(约 750GB LPDDR5X + HBM)的 ET900N(GB300 级)机器做实测内容,向社区征集测试项目。
目前计划的推理测试包括:DeepSeek V4.1 Flash 1017 NVFP4、GLM 5.3 Flash NVFP4、Qwen 3.8 FN NVFP4、MiniMax M3.1 Flash 等量化版本;小模型高并发场景准备用 Qwen 3.8 27B + muse glimmer;图像与视频生成打算测 Qwen 2.1 和 MiniMax H3。最不确定的是微调测试该怎么做,这是他最希望社区给建议的部分,并承诺测完回来分享结果。
「Infra」频道最新
- 谷歌财报:营收利润双涨股价却暴跌 10%,市值蒸发 5000 亿美元 — FuSheng_0306 · 2026-11-03
- CI 从 40 分钟提速到 2 分钟,Boardy 分享 20 倍加速实操清单 — garrytan · 2026-11-03
- Applied Compute 18 个月做到 1 亿美元年化,再融 3.5 亿美元 — ypatil125 · 2026-11-03
- Baseten 案例揭秘:Mirendil 用 40 秒权重同步跑前沿 RL,吞吐提升 1.9 倍 — baseten · 2026-11-03
- Altman 在 ADIPEC 谈 AI 瓶颈:原子还是原子,能源是最大挑战 — rohanpaul_ai · 2026-11-03
- 路易斯安那 3 美元天然气变 300 美元 AI 算力:州级算力经济解剖 — aakashgupta · 2026-11-03