自部署 GLM 5.3 至少需 8 张卡,实配约 13.6 万美元起
TheZachMueller · x · 2026-09-30
HackingDave 称 GLM 5.3 全量模型部署门槛很高:最少 8 张 H100,理想是 8 张 B300,硬成本约 40 万美元,但效果"难以置信的好";他与 DeepSeek v4.1 搭配用于渗透测试,表现都很出色。TheZachMueller 反驳称门槛其实没那么夸张:8 张 6000 Pro 即可,按现价约 13.6 万美元,对多数个人仍贵,但对有优先级的企业并非不可能。小参数模型性能也不错,可作低成本替代。
「Infra」频道最新
- DeepSeek 开源六大底层库,助华为昇腾芯片替代英伟达 — pstAsiatech · 2026-09-30
- Moroney：TensorFlow 培养了一代 ML 人，新项目该选对工具 — lmoroney · 2026-09-30
- TFLite 更名 LiteRT 并新增 NPU 支持，端侧 AI 部署仍在活跃演进 — lmoroney · 2026-09-30
- 开源 Mac 会议记录器 LokalBot：5 个本地小模型共 6.8 GB 全离线运行 — stevyhacker · 2026-09-30
- 13M 参数语音模型跑上 5 美元 ESP32 芯片，WER 反超 Whisper-tiny — Significant-Price695 · 2026-09-30
- 1GW 算力年利润约 400 亿美元,相当于百万辆特斯拉 Robotaxi — JOBhakdi · 2026-09-30