Comet 60B (A12B) 已有 GGUF 量化版,保留 MTP 头可投机解码
Felladrin · reddit · 2026-11-10
网友 Felladrin 将 Multiverse Computing 的 Comet 60B(A12B,Nemotron 3.5 Super 的压缩版)转成了 GGUF 格式,可直接在原版 llama.cpp 上运行:
- Q4KM:42.6 GB
- Q80:64.2 GB
量化保留了 MTP 头,启动 llama-server 时加 --spec-type draft-mtp 即可启用投机解码加速。注意这两个 GGUF 仅支持文本,视觉塔(vision tower)未转换。
「Infra」频道最新
- 「圣经级」低损耗波导交叉 SEM 图,性能却很拉胯 — jwt0625 · 2026-11-10
- RBA 让 LLaVA-OneVision-2 训练无损提速 3 倍,已合入主仓库 — liuziwei7 · 2026-11-10
- 曝英伟达游说反对远程算力管制,阻挠新规出台 — rohanpaul_ai · 2026-11-10
- 小互 AI 日报:Fable 5.2 登顶,指挥千个 AI 八天造出操作系统 — jiqizhixin · 2026-11-10
- megakernel 是 LARP?工程师称 CUDA 图已能表达其超集 — mike64_t · 2026-11-10
- 美国参议院 73-25 推进能源许可法案,大型数据中心需承担更多电网成本 — firstadopter · 2026-11-10