DeepSeek V4.1 Flash 被去审查：拒答率 91.4% 降至 0%
kalyan_kpl · x · 2026-10-21
Atomic Chat 发布了 DeepSeek V4.1 Flash 1017 的去审查（abliteration）GGUF 版本：把「拒答方向」从官方权重中投影移除，本地即可运行无拒答版本。
关键数据与细节：
- 拒答率从 91.4% 降到 0%，MMLU 成绩基本不变（86.6% vs 86.0%）。
- 提供 2.67bpw-IQ1M（250.4 GB，权重约 140 GB 内存）和 3.58bpw-Q2K（334.8 GB，权重约 200 GB）两档量化，均含独立分片的 Engram n-gram 表（可留在 SSD）。
- 编辑在 BF16 原始精度上计算，覆盖所有写入残差流的模块；各量化版与 Unsloth 原版对比 KLD/top-1 指标。
- 1-bit 版明显损失知识（MMLU 85.6%→81.8%），未通过作者自设的 1.5 分质量门槛，且 thinking 模式下更易循环，仅供约 140 GB 内存的机器使用。
「Infra」频道最新
- 摩根士丹利：2027-2028 年 AI 基建支出近 3.4 万亿美元 — FinanceYF5 · 2026-10-21
- MiniMax 工程师实测 M3.1 Flash：快 1.9 倍的模型未必更快交付 — AI Engineer · 2026-10-21
- Training Factory 开源：QLoRA 微调 4-bit 量化模型省 GPU 成本 — textclf · 2026-10-21
- DeepSeek 开源 DeepInfer：单集群日处理 155 万亿 token，推理利润率超 80% — Latent Space · 2026-10-21
- Cerebras 曝光 CS-4 晶圆级背包:4 万亿晶体管 250 PFLOPS 算力 — GregoryDiamos · 2026-10-21
- Anthropic 自研 Scion 取代 Git：号称支撑每日 3 万次 monorepo 合并 — Capatain_CV · 2026-10-21