Unsloth 1-bit DeepSeek 上线，Strata 0.2.9 多平台推理提速
danielhanchen · x · 2026-10-31
Unsloth 发布 Strata 0.2.9，新增 1-bit DeepSeek V4.1 Flash 量化集（UD-IQ1S 241GB / UD-IQ1M 258GB）支持，可跑在 PC、DGX Spark 和 Mac 上。
主要性能提升：
- Strix Halo：Qwen3.8 IQ3S 的 8K prompt 处理从 791 提速至 1,424 tok/s（1.8 倍）；32K prompt 从 778 提至 1,460。
- DeepSeek 2.25：4K prompt 读取速度提升 1.24 倍，16K 提升 1.58 倍；DGX Spark 短 prompt 约快 2 倍。
- Linux NVIDIA 并行请求：8 并发时速度提升 1.45 倍（RTX PRO 5000 实测），且输出答案一致。
- 双 Intel Arc Pro B65：8 并发 prompt 最高提升 15.8%（42.1 → 53.8 tok/s）。
1-bit DeepSeek 解码速度参考：4×R700 为 48-88 tok/s，DGX Spark 15-26 tok/s，M5 Max 128GB 15-18 tok/s。
「Infra」频道最新
- Opera 推 WebAI 提案：网页可直接调用浏览器本地模型 — JChataigne · 2026-10-31
- 微软向约 6 万员工提供自愿离职，同时保护 AI 核心团队 — The Decoder · 2026-10-31
- 印度 AI 破局之道在芯片而非大模型:依赖 NVIDIA 与 CUDA 更令人担忧 — PrasoonPratham · 2026-10-31
- AI 支出挤压回购：五大科技股股东回报占比降至 15 年最低 — nordicinst · 2026-10-31
- SF Compute「算力枯竭」现场竟有人兜售闲置 B300 集群 — daniel_mac8 · 2026-10-31
- FastSDCPU 发布 Fibo 2.0，纯 CPU 跑图像编辑 Turbo 模式 — simpleuserhere · 2026-10-31