llama.cpp 新增 Decision Models,本地推理迎来新玩法

paf1138 · reddit · 2026-10-02

Reddit 用户分享 ggml 官方博客文章:llama.cpp 引入「Decision Models」新特性。

所属事件:llama.cpp 新增决策模型端点,单次前向直接输出选项概率(8 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →