网友推荐 Unsloth 动态量化用于 Qwen3.8 27B
cephaloform · x · 2026-08-29
网友在讨论中使用 Unsloth 动态量化方案运行 Qwen3.8 27B 模型(具体为 q2kxl 量化版本),展示了本地部署大模型的具体配置选择。
「Infra」频道最新
- Stripe 员工呼吁共建 Agent 友好的互联网基础设施 — jeff_weinstein · 2026-08-29
- Cognition 年化营收 9 亿,或烧光 8 亿现金买 GPU — thedealdirector · 2026-08-29
- 思科联手超微,提供液冷 AI 机架方案 — Beth_Kindig · 2026-08-29
- Neocloud Lambda 获 10 亿美元债务融资购 GPU — TechCrunch AI · 2026-08-29
- Kimi K3 全量微测上线:单副本 GPU 需求降 40% — ypatil125 · 2026-08-29
- 审计 443 个 GGUF 模型:64 个文件名与实际量化不符 — Daxfortuna · 2026-08-29