AtomicChat 发布去审查版 DeepSeek-V4.1：12GB 显存拒绝率清零
gladkos · reddit · 2026-11-02
AtomicChat 团队基于 ISTA-DASLab 的 GSQ-RCO 量化，发布了 DeepSeek-V4.1-Flash-1017 的去审查 GGUF 版本，可在 12GB 显存 GPU + 64GB 内存 + SSD 的 Strata Engine 配置下运行。
做法相当克制：每个文件只修改 82 个稠密张量（attention output、共享专家 down proj、Engram value proj），384 个路由专家与 ISTA 版逐字节一致，文件头和大小不变，可直接换 shard 沿用原 Engram 文件。
JailbreakBench 实测（stock → 修改后，同 Strata 配置）：IQ1M 拒绝率 88.9%→0%（思考中 27/30→1/30），IQ2XXS 85.2%→0%（思考中 27→0），IQ2XS 86.4%→0%（思考中仍有 2/30）。能力检查：IQ2XXS 的 GPQA-D 83.3% 持平，AIME25 80.0% vs 76.7%，与 stock 基本一致（KL 距离约 0.02）。
作者注明仅在租用 GPU 上测了 8K 上下文，长上下文与 12GB 卡实际速度未验证，欢迎社区反馈；llama.cpp 用户可用其早前同款修改的版本。模型与全部指标数据均发布在 Hugging Face。
「Infra」频道最新
- FreeToken 开源:游戏 PC 本地跑 284B 模型,笔记本 8GB 显卡跑 35B — alex_verem · 2026-11-03
- Lumentum 全股票换股并购 Marvell,股价单日暴跌 13% — firstadopter · 2026-11-03
- 「GPU 现货市场」并不存在：开发者澄清各家云的抢占式实例差异 — josh_wills · 2026-11-03
- mlx-learn 发布:Apple 芯片上 GPU 加速的经典机器学习库 — RichmanRonald · 2026-11-03
- llama.cpp 新 PR 修复统一 KV cache，本地多 agent 推理显著提速 — jacek2023 · 2026-11-03
- Pinokio 推「Remote AI」更新，本地 AI 可远程调用 — cocktailpeanut · 2026-11-03