llama.cpp 上架「决策模型」GGUF 合集，Clef/OpenJev 均可本地跑
ngxson · x · 2026-10-05
llama.cpp 维护者提醒：ggml-org 在 Hugging Face 上更新了「Decision models」GGUF 合集，配合 llama.cpp 的 /v1/systemone API 使用，可全部本地运行。
合集亮点：
- Clef 27B / Clef-Flash 9B（zero-shot 分类）
- OpenJev 27B（图文到文本）
- Laya 0.4B（文本分类，下载量最高，5k+）
- Julia-1 0.1B、Kev-4B 等小模型
此前有误传这些是非推理模型，实际 llama.cpp 原生支持这批决策模型，适合端侧低延迟分类场景。
所属事件:llama.cpp 宣布支持 Clef、OpenJev 等决策模型，可本地运行(2 条相关)→
「模型」频道最新
- X 用 Grok 重写实时回复审核指南,弃用 Perspective API — tetsuoai · 2026-10-05
- 传 Opus 5.5 生成一张又哭又笑的脸,观感诡异走红 — repligate · 2026-10-05
- yacine 吐槽:Opus 幻觉更多,但 astra 是直接对我说谎 — yacineMTB · 2026-10-05
- SFT 复兴论文遭质疑:评测设置全无披露,单次采样数字近乎无意义 — hyunw_kim · 2026-10-05
- 用户抱怨 Grok Bot 拒绝角色扮演,官方称专注生产力分工 — repligate · 2026-10-05
- Gemini 4 Argon (High) 登顶 Text Arena:1525 分且成最省钱前沿模型 — BLUECOW009 · 2026-10-05