网友自制 Swift 1.5 Heretic 量化版:Qwen 3.8 Flash Next 4bit 去拒绝
jjusko20 · reddit · 2026-10-22
Reddit 用户 jjusko20 发布了 Swift 1.5-Qwen 3.8 Flash Next Heretic UD-IQ4XS 量化模型,填补了社区空白——此前只有 GSQ-RCO 版本的去审查版,没有高质量量化。
要点:
- 基于全精度 Swift 1.5,用 Heretic 方法移除安全拒绝行为,再量化到 4-bit IQ4XS GGUF
- 张量剖面提取自 Qwen 3.8 Flash Next 的 UD-IQ4XS,复现 Unsloth 动态量化配置,Strata 已预置该配置
- imatrix 校准数据覆盖数学、代码、英语、通用指令与工具调用,为该模型专门生成
模型已在 Hugging Face(trubisky/Swift-1.5-Qwen-3.8-Flash-Next-Heretic-UD-IQ4XS)开放,作者接受其他格式的请求。
「Infra」频道最新
- Megakernel 框架宣称单内核跑万亿参数预训练 — basedjensen · 2026-10-22
- PyTorchCon 深入优化器内核:QR、特征分解与 Cholesky 如何提速训练 — PyTorch · 2026-10-22
- CoreWeave 被指陷反身性信用循环:债价越跌融资越贵风险越高 — vasuman · 2026-10-22
- Bulatov 列本地模型看空理由:数据中心智能性价比更高 — yaroslavvb · 2026-10-22
- vLLM 发布 TorchTPU:PyTorch 原生工具链登陆 TPU 推理 — PyTorch · 2026-10-22
- Wiz 实锤 LiteLLM 供应链事件:失窃凭据已被用于 LLMJacking 滥用 — wunderwuzzi23 · 2026-10-22