开发者用3台DGX Spark组本地集群跑GLM-5.3-Flash,配代理均衡日生175万token
Teknium · x · 2026-10-16
开发者 Ivan Fioravanti 展示了完全本地化的 AI 工作流:用 3 台 DGX Spark(Apple Silicon 亦可)组成集群,通过代理均衡调用运行 GLM-5.3-Flash(EXL3 量化),供 Hermes Agent 使用。Teknium 转发并称其能力「难以置信」。
配图的 sparkDash 监控面板显示:三台设备统一内存共 385GB,解码吞吐约 51 tok/s、prefill 1156 tok/s,整机功耗约 119W,日生成 token 超 175 万,并可见 80°C 热节流的实时记录。这展示了消费级硬件上跑开源大模型支撑 agent 工作流的可行路径。
「编程与Agent」频道最新
- AI 代理花约5.6万美元API费，一个月反编译宝可梦心金全部代码 — mgostIH · 2026-10-16
- vibe coding 写出的仪表盘未登录就泄露加盟商财务数据 — shauntrennery · 2026-10-16
- HR 用 Claude Code 打造招聘 Agent:吃透 6 万份历史简历,一个月找到 30 名合格候选人 — G0NZ0BOY · 2026-10-16
- 用 ChatGPT 编排 + Argon 生成,做了一部给外星人看的 100 帧人类肖像视频 — dx8xb · 2026-10-16
- 开发者分享给电脑上的 Agent 划权限:能读能写,发删买一律先问人 — No_Fan5310 · 2026-10-16
- 开发者用GPT写出unifi-simulator,让MikroTik交换机伪装进UniFi网络拓扑 — Pytlicek · 2026-10-16