Unsloth 更新 Qwen3.8-27B 动态量化 v3.1,本地部署再省显存
slacka123 · reddit · 2026-11-14
Unsloth 为 Qwen3.8-27B 推出 Dynamic v3.1 量化版本,方便在消费级硬件上本地运行。动态量化通过保留关键层精度、压缩其余权重,在显存占用与质量之间取平衡,是本地部署大模型的常用方案。文档见 unsloth.ai/docs/models/qwen3.8。
「Infra」频道最新
- SGLang 峰会分享:NVFP4 4-bit 低精度 RL 千卡实战经验开源 — ericzelikman · 2026-11-14
- Anthropic IPO 路演页泄露,网友推测 V4.1F 用 Blackwell 训练被拉黑 — teortaxesTex · 2026-11-14
- 《纽约客》访谈称 AI 是暴力穷举问题,将「烧毁地球」 — kevinnbass · 2026-11-14
- 联想官宣混合词元工厂:15000P 集群年产 2000 万亿 Token,绿电进词元出 — 量子位 · 2026-11-14
- Rust 全栈推理引擎 LexiSuite 实测:262k 长上下文快 17-25% — W61k3r · 2026-11-14
- 韩国芯片出口日均稳在 22 亿美元,DRAM 涨价 5.5% 或暗示供给见顶 — tengyanAI · 2026-11-14