新量化方案 EXLR8 实测宣称全面超越 EXL3,GLM 5.3 冷启动仅 30 秒
EAccelerate_42 · x · 2026-10-09
开发者 mmastrac 表示,其针对 GLM 5.3 full 的新量化格式 EXLR8(E-Accelerate)预计在所有指标上超越 EXL3:同体积下质量更好、速度更快、启动时间更短。其 GLM 5.3 full 服务器冷启动到首个 token(TTFT)目前约 30 秒,且仍有进一步压缩空间。
「Infra」频道最新
- 超大规模云商签下 210 兆瓦 15 年租约,锁定约 52 亿美元收入 — YvesMulkers · 2026-10-09
- 分析师回击唱空质疑:NVL72 是史上最大产品周期 — firstadopter · 2026-10-09
- 前 Intel CEO Gelsinger:算力之外,内存与电力才是 AI 命门 — a16z Podcast · 2026-10-09
- 不追用户和营收,他靠自适应容量规划把 CPU 利用率拉满 — DanielLockyer · 2026-10-09
- 开源 sfFFT 在 DGX Spark 上实现 3.8-6.1 倍 FFT 卷积加速 — IgorCarron · 2026-10-09
- 芯片专家算账:GPU 推理能效已到人脑 2 倍以内,且比人类更省能 — MikePFrank · 2026-10-09