开源桌面工具 iQuantize:一站式把模型量化成 GGUF/MLX/ONNX
Zipidyzip · reddit · 2026-11-07
开发者发布开源(Apache 2.0)桌面量化工作台 iQuantize,把 LLM 量化全流程做成了图形化向导。
- 支持加载本地 Safetensors 或直接从 Hugging Face 选模型
- 分步引导转换为 GGUF、MLX、ONNX 三种格式,可视化查看每个 tensor 的变化
- 可与原模型并排对话对比,测量困惑度、KL 散度和速度
- 一键发布到 Hugging Face 并自动生成记录量化过程的 model card
- 一键安装 Python、llama.cpp 及各格式依赖环境
目前主要在 Apple Silicon 上深度测试过,Windows/Linux 版本已有但未充分验证,作者招募贡献者。仓库:github.com/Fazmin/iQuantize
所属事件:开源桌面量化工作台 iQuantize 一键转换多种格式(2 条相关)→
「Infra」频道最新
- 曝 SpaceX 订购 6000 机架,2027 年要在太空部署 1GW 算力 — Eliv_nurotic · 2026-11-07
- Crusoe 将怀俄明州问题数据中心项目出售给 Google — TechCrunch AI · 2026-11-07
- GPU 融资收紧会救租金还是毁芯片商?SemiAnalysis 观点引analysts交锋 — bookwormengr · 2026-11-07
- Inkling 2 Small 68 小时训完 8.4T tokens,原生 NVFP4 预训练 — teortaxesTex · 2026-11-07
- CorebrumOS「实体 AI OS」可装上 MacBook 等任意 Ubuntu 设备 — chrismatthieu · 2026-11-07
- Beam 报告还讲了超参迁移:Reflection 团队邀读者深读训练动力学章节 — brandondamos · 2026-11-07