Swift 1.5 Flash Next 去审查逆向版新增多种量化,IQ4 精度换体积
jjusko20 · reddit · 2026-10-31
LocalLLaMA 用户 trubisky 应社区要求,为 Swift 1.5 Flash Next Heretic(去审查逆向工程版,125B MoE,96GB VRAM 可跑)发布了更多 GGUF 量化格式:
- IQ4XS:基于 Unsloth 配方,在关键处增加约 1GB 开销,专家量化误差降低约 9.7%,磁盘占用 94.7GB(IQ4NL 为 109GB),使用相同 imatrix。
- IQ3S:呼声最高的规格,自定义配方,imatrix 合并分布改为 80/20(IQ4 为 70/30),以牺牲部分通用知识换取低比特下更强的逆向工程与推理能力,85GB(ISTA 版 83.6GB,多 1.4GB 换精度)。
全部量化文件已上传 Hugging Face(trubisky/Swift-1.5-Flash-Next-Heretic-ReverseEngineer)。
「Infra」频道最新
- Clover-35B-A3B 量化后仅 29.4GB,64GB Mac 跑出 42 tok/s — viveky259 · 2026-10-31
- Liquid Agent 登陆 Linux:LFM3 小模型全本地运行,一条命令装好 — JosephJacks_ · 2026-10-31
- 纯本地办公 AI 栈:OCR、Agent、RAG、语音六个开源模型组合 — HowDevelop · 2026-10-31
- a16z 数据:GPU 租金三个月涨 106%,token 价格反跌 58% — a16z · 2026-10-31
- vLLM nightly 支持 PLE 磁盘卸载,PR 标签现「Qwen4Exp」引 Qwen4 猜想 — rmhubbert · 2026-10-31
- 按分钟租 GPU 渲染只要 1 美元:一人 AI 工作室工作流曝光 — r0ck3t23 · 2026-10-31