开源桌面量化工作台 iQuantize:可视化转换 GGUF/MLX/ONNX 并一键发布
Zipidyzip · reddit · 2026-11-06
Reddit 用户发布开源项目 iQuantize(Apache 2.0),一个面向大语言模型的端到端桌面量化工作台。
- 支持加载本地 Safetensors 或从 Hugging Face 选模型
- 分步引导转换为 GGUF、MLX、ONNX 格式,实时可视化每个张量的量化过程与精度混合
- 可对比量化前后模型,并附完整模型卡一键发布回 Hugging Face
作者目前主要在 Apple Silicon 上测试,Windows/Linux 构建已有但未经深入测试,预期有 bug,欢迎贡献者。仓库:github.com/Fazmin/iQuantize
「Infra」频道最新
- 复旦 D3D 论文:解耦扩散草稿模型实现异步投机解码加速 — Fudan-University · 2026-11-06
- ThursdAI 播客:美国中期选举后,AI 彻底完蛋了吗? — altryne · 2026-11-06
- sshhole 漏洞分析:或危及上亿台 OpenWRT 路由,MUSL 系统首当其冲 — esrtweet · 2026-11-06
- 开源 Smarter Compact:长会话成本降 72%,被裁剪上下文可搜索召回 — goost95 · 2026-11-06
- 本地 AI 日报:TensorFold 1.2.3 解码提速 21–23%,Ripple-65B 开源预览 — AIFlow_ML · 2026-11-06
- 「数据中心泡沫要是破了,我该怎么办?」算力圈自嘲 — max_paperclips · 2026-11-06