ggml-org 发布 Qwen3.8-27B-GGUF,支持推理与智能体模式
ggerganov · x · 2026-08-15
ggml-org 在 DGX Spark 上发布了 Qwen3.8-27B-GGUF 模型(Q4KM 和 Q40 量化版)。演示命令包含了推理优化参数如 speculative sampling(draft-mtp)以及保留推理内容的 agent 模式。
所属事件:社区分享Qwen3.8-27B在32GB显存上的部署配置(4 条相关)→
「模型」频道最新
- 预测:AI 用量持续增长,前沿模型收入增速却可能放缓 — yi111 · 2026-10-16
- Nolla Health 后训练 Nemotron 3.5:视觉诊断准确率 35% 升至 66.8% — LoganGrasby · 2026-10-16
- 开发者:除顶尖专家外,编码模型在软件各领域已全面超越人类 — zack_overflow · 2026-10-16
- 爆料预测:中国前沿模型或 2027 年 3 月追平 GPT-6 级别 — teortaxesTex · 2026-10-16
- Liquid AI 决策模型 d1-ultra 上线 Vercel AI Gateway — JosephJacks_ · 2026-10-16
- DeepLearningAI 周报:Haiku 5.5 降价九成、Gemini 4 Argon 输出上限升至 1M — DeepLearningAI · 2026-10-16