llama.cpp 上线 /v1/systemone 端点,支持本地决策模型推理
mitsuhiko · x · 2026-10-03
ggerganov 宣布 llama.cpp 最新构建中推出决策模型(decision models)支持,新增 /v1/systemone 端点,可本地、高效、私密地运行 Jev 风格推理,当前支持多个开源模型且持续增加。mitsuhiko 回应表示喜爱但提出两点改进:希望标明各模型类型,并建议改称 classifiers(分类器)而非 decision models。
所属事件:llama.cpp 新增决策模型端点,单次前向直接输出选项概率(8 条相关)→
「编程与Agent」频道最新
- Klaus 分享 AI 测试平台界面:一句话即可生成全站测试 — KlausCodes · 2026-11-19
- 开发者吐槽 GPT「防御式编程」掩盖 bug,官方回应征集案例 — pvncher · 2026-11-19
- Flutter 发布 A2UI 1.0:让 Agent 用真实交互式组件回应而非纯文本 — rseroter · 2026-11-19
- 一张图讲透 Agent 四件套:Skills 定流程、MCP 给访问、RAG 查知识、Memory 存经验 — MaryamMiradi · 2026-11-19
- Anthropic 发文详解 Agent 记忆:用“做梦”整理 Claude 的经验 — daniel_mac8 · 2026-11-19
- 开发者观点:外部记忆系统或比算法突破更能解决持续学习 — daniel_mac8 · 2026-11-19