开源引擎 Locals 让 Apple Silicon 本地 LLM 提速最高 3 倍
SumitGup · x · 2026-10-22
@machinestein 发布开源项目 Locals：一个专为 Apple Silicon 打造的本地 LLM 推理引擎，官方称运行本地模型最高可快 3 倍，目标是让用户摆脱云服务、在本地跑前沿级模型。要点：- 可作为 Ollama、MLX-LM、llama.cpp 的即插即用替代，编码 agent 工具链可直接接入;- 底层是复杂度理论上的突破，为 DeltaNet 架构、语法约束解码、工具调用与结构化输出提供更快算法;- 已在 GitHub 开源。
「编程与Agent」频道最新
- Codex 用户吐槽额度用量像赌博,重置机制成玄学 — rachittshah · 2026-10-22
- 高手玩法：让 Agent 自己写 Fuzzer，批量揪出低垂果实级 bug — zack_overflow · 2026-10-22
- 用 Claude Opus 在 Unreal 引擎里造出一座城市 — OdinLovis · 2026-10-22
- 开发者迭代 AI 关卡编辑器：可改天气并即时走进场景试玩 — Dimillian · 2026-10-22
- 用 C 手写 DNS 解析器：在包级别看懂域名解析全过程 — cneuralnetwork · 2026-10-22
- 斯坦福 Librarian Agents：预整理语料工作区，长上下文问答提升超 30 分 — khademinori · 2026-10-22