Hugging Face CEO:决策模型 Kev-4B 可在 llama.cpp 端侧免费运行
ivan_bezdomny · x · 2026-10-02
Hugging Face CEO Clement Delangue 宣布决策模型（decision models）现可在 llama.cpp 上设备端运行，免费、快速、保护隐私，并附一行命令：llama serve -hf ggml-org/Kev-4B-GGUF。
「Infra」频道最新
- Marin 535B MoE 训练跑出 27% MFU,专家并行方案全复盘 — dlwh · 2026-10-03
- 万亿级争夺战转向『Neocloud』:为 AI 服务的 GPU 全栈平台崛起 — DavidLinthicum · 2026-10-02
- Strata 开源项目让游戏 PC 一键跑 Qwen3.8-Flash-Next,8 天获 5000 星 — alex_verem · 2026-10-02
- AI 集群或已被 AI 自身优化出 10%-40% 额外等效算力 — 1a3orn · 2026-10-02
- 续帖：前沿实验室本就有最强大脑，AI 优化红利应更小 — 1a3orn · 2026-10-02
- 黄仁勋盛赞马斯克:19 天干完别人一年的活 — DimaZeniuk · 2026-10-02