Ingot 上线 4 天:社区量化 Qwen3.8-27B 超官方 FP8 版
const_reborn · x · 2026-10-19
Bittensor 子网 Ingot(SN97)上线仅 4 天,其当前最优量化模型对 Qwen3.8-27B 的还原度已超过 Qwen 官方 FP8 版本——与原模型的差距缩小 34%,同等体积保留更多原始能力,且目前仅限 FP8,更低比特在计划中。
其机制是矿工对教师模型做 FP8 量化,系统逐 token、逐层对照原模型「化验」每个副本,最接近者被封为 king 并获得奖励。配图显示 4 天内已有 4 任 king 更替,还原度从 0% 爬升至 34%。
「Infra」频道最新
- Intel 推出 Crescent Island 推理卡:160GB LPDDR5X 显存 — lemire · 2026-10-20
- uzu 推理引擎刷新 Apple Silicon 纪录:M5 Max 解码 123 tok/s — teortaxesTex · 2026-10-20
- turbopuffer 优化向量重打分,生产集群磁盘读 I/O 最高降 80% — DanielLockyer · 2026-10-20
- vLLM Speculators v0.9.0 发布:投机解码训练快 2 倍、存储省一半 — vllm_project · 2026-10-20
- Deepgram 将 Nova-3 语音模型移植 Trainium2,每美元音频处理量提升 11–70% — AWS ML Blog · 2026-10-20
- Datalab 发布 Indra OCR 1.1:仅 100 万参数,CPU 上每秒 44 页 — VikParuchuri · 2026-10-20