antirez:企业配额用完别慌,自建 DGX Spark 与 Mac Ultra 机群托底
antirez · x · 2026-09-29
antirez 回复讨论企业本地 AI 部署思路:公司购置一批 DGX Spark、Mac Ultra 等本地设备组成机群,员工在公司 API 配额用完后可以继续用这些本地算力干活,避免工作中断。
「Infra」频道最新
- 换掉矩阵乘法不改参数:结合代数层让 110M 模型吞吐提升 7.8% — Ilya Koziev · 2026-09-29
- Shaw 吐槽反数据中心者:一边骂算力一边上网自相矛盾 — zealcaiden · 2026-09-29
- 模型推演 2030 年十亿 Agent 虚拟机背后的 CPU 需求与芯片商机 — AccBalanced · 2026-09-29
- Tessera 论文:检索驱动 KV 缓存复用,RAG 服务首字延迟降 3.6 倍 — _reachsumit · 2026-09-29
- Venice 代币化推理积分模式遭跟风,供给过剩隐忧浮现 — 0xJeff · 2026-09-29
- Model Casting:中途换激活函数+L1 稀疏目标,大幅稀疏化 FFN 降 FLOPs — francoisfleuret · 2026-09-29