TensorFold 绑定双 TB5 连接,Apple Silicon 推理吞吐提升 83%
AIFlow_ML · x · 2026-10-06
开源项目 TensorFold(在 Apple Silicon 与 NVIDIA GPU 上通过 OpenAI 兼容 API 提供本地 LLM 服务)迎来重要更新:新增 MCDMA 支持,可在 TensorFold 中绑定两台 Mac 的 Thunderbolt 5 成对连接,使 Tensor 与 Pipeline 并行吞吐提升 83%。
- TensorFold 提供 OpenAI Chat Completions/Responses 与 Anthropic Messages 兼容端点
- 安装简便:pip install 或 Homebrew(brew install ashhart/tensorfold/tensorfold)
- 更新由作者在两台 Apple M5 Ultra Studio 上实测验证
对做本地/多机分布式推理的开发者是实用方案。
「编程与Agent」频道最新
- Cloudflare 推出 agent 优先的 CLI 工具 cf,八项举措打破可观测性黑箱 — dinasaur_404 · 2026-10-06
- 开源项目 celld：自托管版 Cloudflare Workers，每个 AI Agent 一个 Cell — letandrewcook · 2026-10-06
- 664 次 agent 实测:9 条规则减少 29% 思考且零任务损失 — PilgrimofHaqq2 · 2026-10-06
- 调低 coding agent 努力档位反而烧更多 token？Qwen3.8-27B-pi 专门训练档位排序 — lmoroney · 2026-10-06
- 128GB Mac Studio 跑本地 Agent 栈怎么选:推理层之争引发讨论 — DrainBramage · 2026-10-06
- Yacine 对谈 a1zhang 90 分钟：为什么 harness 能提升 LLM 泛化 — yacinelearning · 2026-10-06