ISTA 称 2bit 量化零损失？社区追问 GSQ-RCO 的 KLD 与基准饱和问题
Queasy_Back2588 · reddit · 2026-10-25
Reddit 用户质疑 ISTA-DASLab 发布的 DeepSeek-V4.1-Flash GSQ-RCO 量化 GGUF：官方图表显示 IQ2XXS（2.0 bpw）在基准上与基模型持平，甚至 IQ1M（1.75 bpw）也保留 98.7% 的任务平均分，AIME25 各版本均为 100 分。
作者的疑点：
- 基准已饱和（多数 90%+、AIME25 满分），难以体现量化带来的退化。
- 官方未公布 KLD（KL 散度）指标，无法判断分布层面的损失。
帖子向社区求助：是否有人实测过这些量化版？2 bpw 下合理的 KLD/PPL 应该是多少？这类质疑提示「低比特量化零损失」的宣传需要更敏感的评测手段来验证。
「Infra」频道最新
- NextDC 一天暴跌 40%：真正的瓶颈是电网，不是合同 — ccerrato147 · 2026-10-25
- Neocloud 本质是数据中心抵押贷款：租金在后，利息在前 — ccerrato147 · 2026-10-25
- 韩国 Elice IPO 首日暴跌 32%，超额认购 400 倍也救不了 — ccerrato147 · 2026-10-25
- 单张 AMD MI325X 跑 DeepSeek 552B：四 agent 同时 100 tok/s — realmrfakename · 2026-10-25
- AI 的社会许可写在电价里：预测错了该谁买单？ — krishnan · 2026-10-25
- Amazon ATTUNE 编码 agent 自动调优训练配方,H100 平均提效 1.7 倍 — kalyan_kpl · 2026-10-25