Apple Silicon 本地推理引擎 Splash 1.7.1:ANE prefill 快 23%,共享系统提示新会话提速近 3 倍

oss-jiiim · reddit · 2026-11-23

开源本地推理引擎 Splash 发布 1.7.1,配套菜单栏工具 LLMenuBar 0.0.4 同步支持新特性。

新增 --max-concurrent-requests、--sampling-default、--recalibrate-ane 三个服务端选项,均可通过 brew 安装。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →