llama.cpp 上线 /v1/systemone 端点,支持本地决策模型推理
mitsuhiko · x · 2026-10-03
ggerganov 宣布 llama.cpp 最新构建中推出决策模型(decision models)支持，新增 /v1/systemone 端点，可本地、高效、私密地运行 Jev 风格推理，当前支持多个开源模型且持续增加。mitsuhiko 回应表示喜爱但提出两点改进:希望标明各模型类型，并建议改称 classifiers(分类器)而非 decision models。
所属事件:llama.cpp 新增决策模型：单次前向输出选项概率(8 条相关)→
「编程与Agent」频道最新
- 教程:用 Claude Code 快速实现网页光标追踪特效 — Tegadesigns · 2026-10-03
- Bindu Reddy 称 Fable 5.5 大幅减少幻觉并快速复刻小型模型技术 — bindureddy · 2026-10-03
- Anthropic 工程师：未来模型将更擅长删代码与化简 — simpsoka · 2026-10-03
- 好的 AI 工作流不是点击最少,而是把摩擦留在会出错的地方 — alifcoder · 2026-10-03
- 用 Opus 5.5 从零做浏览器 3D 游戏，AI 开发实战亮相 — jason_mayes · 2026-10-03
- Cloudflare Durable Objects 支持无客户端时继续长任务 — threepointone · 2026-10-03