四台 Mac Studio 本地跑 1T 参数 FP4 模型,硬刚订阅 API
DimitrisPapail · x · 2026-09-30
机器学习研究者 Dimitris Papailiopoulos 回应关于 agent 订阅/API 定价达到"工资级"成本的讨论,提出替代方案:直接购买 4 台各配 512GB 内存的 Mac Studio(总价约 4 万美元,属于一次性摊销成本),在上面运行最好的 FP4 量化 1 万亿参数模型。他认为对重度用户而言,这种本地部署路线在长期是 API 订阅的有力竞争者。原讨论还指出:如果订阅或 API 定价达到工资水平,超过 2500 亿参数的模型市场就有支撑,但对公司市值的提升仍不确定。
所属事件:教授算账:四台 Mac Studio 本地跑 1T 模型更划算(3 条相关)→
「Infra」频道最新
- 谷歌宣布 Gemini 3.5 Flash 可在断网气隙环境运行 — shashib · 2026-11-16
- Gemma.c:单文件 C 实现 Gemma 1/2/3 多模态推理,纯 CPU 跑 72 tok/s — This-Purchase-3325 · 2026-11-16
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16