网友发布 Qwen3.8 27B 量化版:单卡 Strix Halo 跑一周,质量胜过 ISTA 与 Unsloth
Dutchnamn · reddit · 2026-09-23
Reddit 用户发布了 Qwen3.8 27B 的 AP-GGUF 量化版本,称在三个语料库上逐字节对比中大幅优于 ISTA 和 Unsloth 的量化(KLD 与 top 1% 各测 3 次)。全部在单块 Strix Halo 上用连续一周的 GPU+CPU 时间生成,已上传 Hugging Face。
「Infra」频道最新
- 地理空间数据栈全景图发布:从卫星观测到 AI 上下文基础设施 — clemnt · 2026-11-11
- 降价反而更贵:新模型太爱自查,单任务成本涨31% — tengyanAI · 2026-11-11
- Anthropic IPO 需求火爆传拟上调定价,目标估值 1.4 万亿美元 — firstadopter · 2026-11-11
- 本地 LLM 路由器 SimpleHarn:显存不够就拒绝加载模型 — legislat · 2026-11-11
- Rivet 推出 SQLite Forking:20ms 分叉 agent 线程且零数据拷贝 — samgoodwin89 · 2026-11-11
- 法国网友提议数据中心向周边居民付费补偿 — clemnt · 2026-11-11