TernaryQuench 开源 Qwen3 三值量化训练全流程，可直接 Ollama 跑
casper_hansen_ · x · 2026-10-05
开发者 penk 发布开源项目 TernaryQuench，提供从零构建三值（ternary）语言模型的完整配方：以上游 Qwen3 checkpoint 为起点，生成 agentic 校准数据，用 CAT-Q 风格重建损失训练，再导出到本地推理。
- 支持 Qwen3 及 Qwen3.5/Qwen3.8 的文本解码器，每组权重只有 −scale、0、+scale 三个值
- 导出器允许在同一模型里混合三值层与高精度层
- 校准数据生成、训练、checkpoint 恢复、评估全链路开源，可复现可改配方
- 提供现成的 TernaryQuench Qwen3.8-27B GGUF，可 ollama run 直接在 Apple Silicon 上用（MLX 导出）
「Infra」频道最新
- 前 Gemini Nano 训练者预判:端侧 ML 真正的爆发在 2027/28 芯片世代 — _arohan_ · 2026-10-05
- Vercel 工程师呼吁:KVM 漏洞波及全球,应由受益方共同出资修复 — cramforce · 2026-10-05
- Windows 上跑 Blackwell 96GB 本地模型，调优后 prefill 快过 Linux — LegacyRemaster · 2026-10-05
- 一条 USB-C 线把 iPhone 变 24GB MacBook 副显卡,跑 Qwen 27B 快 40% — TheMoonMidas · 2026-10-05
- Hugging Face Accelerate 前负责人亮履历,回应本地 AI 质疑 — TheZachMueller · 2026-10-05
- 算力交易员亲历:买方只认 NVIDIA,CUDA 护城河依然稳固 — sudoraohacker · 2026-10-05