Hermes 适配器放出 GGUF 版:不开思考即追平 xhigh,token 省四分之三

yb2698 · x · 2026-11-19

harness-hub 发布 Qwen3.8-27B Hermes LoRA 适配器的 GGUF 量化版,可用 llama.cpp 本地运行。训练配方为 TRL AsyncGRPOTrainer + 自定义 RL 环境 + OpenEnv + safeagents。评测亮点:关闭 thinking 后,适配器与基座模型开 xhigh thinking 精度相当,但每任务生成 token 减少 3.5–4.4 倍,对本地部署意义重大。GGUF 版尚未经 llama.cpp 重新评测,量化基座会进一步影响成绩。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →