开源本地 AI 应用层 SAFi：接 llama.cpp 即可给企业交付私有部署
forevergeeks · reddit · 2026-09-23
作者发布 SAFi，一个面向为本地企业搭建 AI 解决方案的开发者的全开源免费应用层，定位是「企业愿意信任的那一层」：接入任意 OpenAI 兼容模型（配合 llama.cpp）即可使用。项目代码在 GitHub（jnamaya/SAFi），并预告将提供 ISO 镜像形式的 appliance 版本，像装操作系统一样直接安装到硬件上（基于 Debian）。对做本地化 AI 交付的独立开发者是一个可直接拿来用的应用层选型。
「Infra」频道最新
- 去中心化推理平台 Chutes 换帅,公开展示 8B MoE 预训练全程 — markjeffrey · 2026-09-23
- 后训练框架 Halo 宣称吞吐达 TRL 2.8 倍，遭质疑选择性跑分 — _ScottCondron · 2026-09-23
- OpenAI 解释 GPT-6 降价:缓存与推理优化省下的钱直接让利 — OpenAIDevs · 2026-09-23
- OpenAI 工程师详解 GPT-Live 实时语音系统如何构建 — juberti · 2026-09-23
- 2030 年中美数据中心耗电量预测:中国 774 TWh、美国 649 TWh — teortaxesTex · 2026-09-23
- DiffusionGemma 成 DGX Spark 上的黑马：单机跑「快速 agent」任务 — bodonoghue85 · 2026-09-23