智谱 GLM MoE 模型 W4A16 量化版登上 Hugging Face 热榜
AikidoSec · hf · 2026-09-22
AikidoSec 发布的 altar-1 模型登上 Hugging Face 热门榜,基于 GLM MoE 架构(标签含 glmmoedsa、glm-5.3),采用 AWQ INT4(W4A16)压缩与 compressed-tensors 格式,主打 text-generation。
这类量化版本让大参数 MoE 模型能在更低显存环境下部署,对想在本地或自有推理栈跑 GLM 的开发者有参考价值。
「Infra」频道最新
- 博主提醒:非美国用户应考虑本地部署 AI,以防政府禁令 — TheMoonMidas · 2026-09-22
- Engram:本地加密记忆库统一各 AI 工具的 agent 记忆 — Acceptable_Leg3950 · 2026-09-22
- DigitalOcean Managed Agents 公测:闲置暂停、按秒计费 — damianplayer · 2026-09-22
- Subconscious 获 510 万美元融资,专做长程 Agent 推理平台 — CShorten30 · 2026-09-22
- Nscale 拟赴美上市估值 350 亿美元,Clegg 或获利 4000 万 — nordicinst · 2026-09-22
- NVIDIA 送出 DGX Spark 首晒:1.2kg 小机身、128GB 统一内存可本地跑 200B 模型 — kimmonismus · 2026-09-22