网友发布 Qwen3.8 27B 量化版:单卡 Strix Halo 跑一周,质量胜过 ISTA 与 Unsloth
Dutchnamn · reddit · 2026-09-23
Reddit 用户发布了 Qwen3.8 27B 的 AP-GGUF 量化版本,称在三个语料库上逐字节对比中大幅优于 ISTA 和 Unsloth 的量化(KLD 与 top 1% 各测 3 次)。全部在单块 Strix Halo 上用连续一周的 GPU+CPU 时间生成,已上传 Hugging Face。
「Infra」频道最新
- ALP 编码正式并入 Apache Parquet:压缩比近 zstd 且解码更快 — mgill25 · 2026-09-23
- DiffusionGemma 实测单卡 97 tok/s,vLLM 补丁数日内合入 — GlennCameronjr · 2026-09-23
- 本地跑 AI 的硬件鄙视链:从笔记本到四张 3090 — ZachCope · 2026-09-23
- 智能过剩论:模型数月一迭代,电站电厂却要数年 — r0ck3t23 · 2026-09-23
- Cloudflare CTO Knecht 入选时代年度高管,重塑 AI 时代互联网 — michellechen · 2026-09-23
- Parakeet.java 把 NVIDIA 语音识别模型搬上纯 Java,15 分钟音频 15 秒转写 — mukel90 · 2026-09-23