博主本地免费跑出 Opus 级编码 agent，速度近 Opus 两倍
julianharris · x · 2026-09-11
Julian Harris 发布长文实测：2026 年 8 月起，本地 AI 编码达到「去年云端前沿模型」的水平。他声称已在本地以接近 2 倍 Claude Opus 的速度、零成本跑通 Opus 级别的编码 agent。
关键技术细节：
- 用 RDMA 在两台 MacBook 间做张量并行（各承担 50%），单台机器 SSD 流式加载时只有 15 t/s，双机并行提升到 25 t/s，且还有很大优化空间
- 实测发现上下文长度翻倍会让 qwen-3.8-27b 吞吐量腰斩，而 qwen-3.8-flash-next 受影响小得多
- 批评 Anthropic 在访问时段、限速和审查上频繁变动（如 5 小时窗口限制），认为这不是可持续的商业关系，这也是转向本地部署的动因
- 作者自研的 Ceetrix MCP 规范治理服务器，用于约束编码 agent 不偷懒、不糊弄
文章为作者手写长文，含多天实测踩坑记录。
所属事件:antirez 在 Mac 上本地跑 DeepSeek v4.1 Flash：单机 15 t/s、双机 25 t/s(12 条相关)→
「编程与Agent」频道最新
- Agent Field Kit 上线：为生产级 Agent 提供 $29 起的安全应急手册 — alvelda · 2026-10-27
- 用去审查版 GLM 绕开 Claude 拒答： SS7 威胁建模工作流 — l4rz · 2026-10-27
- Cloudflare Durable Objects 被验证为 AI agent 高并发场景优选架构 — tristanbob · 2026-10-27
- GitHub Next 发布 Chopin:实时多人的 Agent 协作规划环境原型 — max__drake · 2026-10-27
- TMLR 论文：更强推理不等于更充分披露，Agent 思考越多未必告知越全 — SharonYixuanLi · 2026-10-27
- 作者称全由 LLM 编写的 Rust 库 bbtree 实测：快是真的，省内存翻车 — lmoroney · 2026-10-27