RustingStrata 1.2.3:单 Rust 二进制内置本地聊天页,求解功能缺口

Serious_Scarcity7818 · reddit · 2026-11-15

RustingStrata 是一个单 Rust 二进制的本地 LLM 服务,rustingstrata serve 同时提供 OpenAI 兼容 API 和根路径的聊天页面,无需 Node、Docker 或二次安装。

聊天页功能包括:从 models 目录选择并加载模型(可配上下文长度、MTP drafts、KV cache 格式、VRAM 余量、prefill chunk)、聊天记录存浏览器 localStorage(可搜索/导入导出,数据不出本机)、编辑消息、重新生成与继续回复、图片附件、思考过程折叠开关、采样参数预设、逐条回复 tok/s 速度、未校准提示、界面主题色跟随模型家族等。

作者明确它不是 coding agent(不读写文件,建议把 OpenCode/Claude Code 等指向同一服务),并发帖征集:已有 CLI agent 时本地 web 聊天页还缺什么功能。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →