ISTA-DASLab 发布 DeepSeek-V4.1-Flash 的 GSQ-RCO 量化版 GGUF
Gold_Coconut9777 · reddit · 2026-10-24
ISTA-DASLab 用其 GSQ-RCO 智能量化方法发布了 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本，已上架 Hugging Face（ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF）。
注意事项：
- llama.cpp 暂不支持，因为原架构支持的两个 PR（#28696、#30817）尚未合并；
- 模型卡提到的 Strata 支持，作者判断原版 Strata 只支持 Qwen3.8-Flash-Next，实际更可能指基于 Strata 的分支如 Xolotl 或 Maya。
「Infra」频道最新
- 7-10 万美元预算：如何配置本地算力跑 GLM5.3 与 DeepSeek — whoami-233 · 2026-10-24
- Stripe 拟约 75 亿美元收购 OpenRouter,押注 AI 按用量计费 — FinanceYF5 · 2026-10-24
- Reddit 网友反驳本地 AI 唱衰论:推理速度被夸大落后 5 倍 — wojtek15 · 2026-10-24
- NVIDIA 发布 BioNeMo 推理运行时 v0.2，GPU 五阶段管线加速蛋白折叠预测 — AllThingsApx · 2026-10-24
- Sauers_ 暗讽 OpenAI 用未研究硬件跑多智能体强化学习 — Sauers_ · 2026-10-24
- Reddit 实测：新发布的量化模型普遍不敌几个月前的 DS/Qwen — EmilPi · 2026-10-24