Hermes 上线本地后端，可一键运行 Unsloth 量化模型

Unsloth 作者 danielhanchen 宣布 Hermes 新增本地后端，支持一键本地运行 Unsloth 的 GGUF 量化模型，包括 DeepSeek-V4-Flash 等模型，可使用 UD-Q4KXL 和 UD-Q4KM 量化格式，进一步降低了在本地部署大模型的门槛。

2026-09-04 ~ 2026-09-05 · 2 条相关

• Hermes 上线本地后端，一键运行 Unsloth GGUF 量化模型 — danielhanchen · 2026-09-04
• Hermes 上线本地后端：支持 DeepSeek-V4-Flash 等模型 UD-Q4 量化 — maximelabonne · 2026-09-05