Qwen3.8-27B 量化版跑进 12GB 内存,路由方案称达 Opus 5.5 九成七水平
Saul_Loveman · x · 2026-11-13
由 Unsloth 量化的 Qwen3.8-27B 现在可在仅 12GB 内存的设备上运行,采用 Apache 2.0 开源协议。另有开源路由方案声称以约十分之一的成本达到 Opus 5.5 质量的 97.5%。
开源小模型+智能路由的组合正在把「高质量推理」的成本快速压向本地设备,值得本地部署玩家关注。
「Infra」频道最新
- Edge0 发布 145B 参数开源模型,宣称可在个人电脑本地运行 — BrightCandle · 2026-11-13
- Michael Burry 喊话清仓 Nvidia:四大理由直指隐性杠杆 — SumitGup · 2026-11-13
- 彭博：黄仁勋离任前,Nvidia 5000亿美元兜底协议数月无成交 — GaryMarcus · 2026-11-13
- 微软服务宕机再敲警钟:开源模型用 BT 种子分发成新趋势 — WolframRvnwlf · 2026-11-13
- AWS 官方否认故障传闻：服务一直正常，勿信不实报道 — Kyrannio · 2026-11-13
- 算账贴：三年仅百余 K 芯片流向，GPU 出口管制确实奏效 — bookwormengr · 2026-11-13