研究发现公开模型库中大量量化 LLM 文件出厂即不可用
Independent-Researcher · hf · 2026-10-31
独立研究者的论文系统检测了公开模型注册表中量化小模型文件，发现由于量化配方未校准，不少 artifact 上传时就根本无法运行。论文给出跨模型 15 项任务的通过率热力图（覆盖 codellama、deepseek-coder、granite-code、llama、mistral、qwen2.5-coder、starcoder2 等），并用「8 GB 以下未提供标签」「Suspect 标记」等方法标出可疑文件，部分量化文件 15 项任务通过数为 0。作者建议发布前进行筛查与量化校准。
「研究」频道最新
- arXiv 论文：修正基准错位后，3D Gaussians 新视角合成重回 SOTA — kwangmoo_yi · 2026-10-31
- 单视图新视角合成基准被指错位，测试时优化对齐会误导评测 — kwangmoo_yi · 2026-10-31
- arXiv 版主招人：投稿量暴增致审核拖数月，急募版主 — tdietterich · 2026-10-31
- arXiv 版主点名：首次投稿的独立单作者最易被 hold — tdietterich · 2026-10-31
- arXiv 版主：课程作业、综述、立场文件都过不了政策检查 — tdietterich · 2026-10-31
- arXiv hold 机制内幕：版主可提议更换论文主分类 — tdietterich · 2026-10-31