LocalAI 团队半年新增 17 个 C++ 推理后端
rms80 · x · 2026-08-17
LocalAI 团队在最近 6 个月内创建了 17 个 C++ 推理后端，其中包括 depth-anything.cpp。该模型可从普通图像中估算深度，并生成深度图或 3D 点云。
「Infra」频道最新
- 美数据中心陷电力瓶颈，SpaceX 拟推星链算力破局 — XFreeze · 2026-08-17
- VLLM 在 Ampere 显卡上应使用 Flashinfer 后端 — mayo551 · 2026-08-17
- 深圳造出 EUV 原型机，中国光刻突破瞄准子系统 — rohanpaul_ai · 2026-08-17
- 纯C+Metal在MacBook上跑397B模型，4.4 tokens/s — tom_doerr · 2026-08-17
- Ling-3.0-flash 运行时路径：单卡 DGX 跑通 — Kanu-animallover · 2026-08-17
- 实测本地 AI 硬件门槛：2B 至 27B 模型性能与限制全解析 — draginol · 2026-08-17