GLM 5.3 Flash 实测:RTX 6000 WS 上 AgentX 跑出 116 tps
TheZachMueller · x · 2026-10-28
ML 工程师 Zach Mueller 实测 GLM 5.3 Flash 在 RTX 6000 WS(c=1)上的推理表现:SemiAnalysis 的 InferenceX 基准(8k 输入/1k 输出)约 250 tps,AgentX 基准约 116 tps。他表示被数据说服("AgentX pilled"),并调侃 SemiAnalysis 赢了。这组数字对评估该模型在单卡工作站上的 agent 实际吞吐有参考价值。
所属事件:GLM 5.3 Flash 实测:RTX 6000 工作站调优后吞吐达 242 tok/s(3 条相关)→
「模型」频道最新
- Tara 与 Mila 推出 CATCH:约 200 例对抗训练让 LLM 学会诚实 — Mila_Quebec · 2026-10-28
- 谷歌开源 EmbeddingGemma 2:744M 多模态嵌入模型胜过 12 倍大模型 — dair_ai · 2026-10-28
- 用户吐槽 6.1 Terra 太「懒」:每 5 分钟汇报一次,拒绝一口气干完 — Captain-Overboard · 2026-10-28
- 经济学家批OpenAI定价:非线性计费逼用户开多号,违反基本原理 — joshgans · 2026-10-28
- ShadowBench:19 个 VLM 判断影子物理一致性几乎全靠猜 — HirokatuKataoka · 2026-10-28
- 网友整理 Awesome GPT-6.1 Terra 清单:项目、提示词与社区评测 — Awacer · 2026-10-28