Unsloth UD_IQ1_M 量化实测:省 6GB 但工具调用频繁崩坏
SomeoneInHisHouse · reddit · 2026-11-13
用户在 Strata 上实测 Unsloth Dynamic 3.1 的 UDIQ1M 量化:官方图表显示它比 IQ3XXS 省 6GB(直接换来自由内存),但用了 3 天就多次出现工具调用失败、输出退化为裸 XML 的情况,需要手动输入 "keep going" 才能继续;而之前用 IQ3XXS 两个月从未遇到此问题。作者贴出了具体的失败输出示例并向社区求证。
「Infra」频道最新
- 晶圆厂月产能升至 111.7 万片 8 英寸当量,12 英寸占比 78.9% — teortaxesTex · 2026-11-13
- 微软与 Claude 同时宕机,开发者哀嚎全线瘫痪 — ThePeterMick · 2026-11-13
- llama.cpp 发布 v1.0.0,本地推理标杆项目迎来首个正式大版本 — TheApadayo · 2026-11-13
- 新加坡对涉英伟达 AI 芯片走私案男子提起 41 项指控 — Polymarket · 2026-11-13
- 梗图:整个现代数字基础设施都压在 Model Hub 一根小柱子上 — pcuenq · 2026-11-13
- 实测 Agent Substrate:官方宣称每秒500份简历,单节点只跑出37 — ghumare64 · 2026-11-13