SmolChat 更新:Android 本地跑 GGUF 模型并内置 OpenAI 兼容服务器

shubham0204_dev · reddit · 2026-11-02

开源 Android 应用 SmolChat 发布 v17 版本,可在手机上本地运行 GGUF 模型,本次更新包括:内置 OpenAI 兼容 HTTP 服务器,以前台服务保活、锁屏也不中断;新增全局聊天设置,统一覆盖所有新会话的 top-k、temperature 等参数;模型改由应用内直接下载;同步上游 llama.cpp 最新提交;修正 tok/s 统计逻辑,不再把 prompt 处理时间计入生成速度;代码块新增复制按钮。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →