四台 Mac Studio 本地跑 1T 参数 FP4 模型,硬刚订阅 API
DimitrisPapail · x · 2026-09-30
机器学习研究者 Dimitris Papailiopoulos 回应关于 agent 订阅/API 定价达到"工资级"成本的讨论,提出替代方案:直接购买 4 台各配 512GB 内存的 Mac Studio(总价约 4 万美元,属于一次性摊销成本),在上面运行最好的 FP4 量化 1 万亿参数模型。他认为对重度用户而言,这种本地部署路线在长期是 API 订阅的有力竞争者。原讨论还指出:如果订阅或 API 定价达到工资水平,超过 2500 亿参数的模型市场就有支撑,但对公司市值的提升仍不确定。
「Infra」频道最新
- OpenAI 推出 Ultrafast 极速档:Codex 最高 300 tokens/秒、快 8 倍 — OpenAI · 2026-09-30
- OpenAI Responses API 流量一年涨 100 倍,可用性达 99.9% — TheMoonMidas · 2026-09-30
- Rust 开源 AgentMesh:给 MCP 生态做服务网格,一个网关纳管 49 个工具 — Excellent-Book-3509 · 2026-09-30
- 高通 HBC 首份良率数据曝光,行业分析师密切关注 — BenBajarin · 2026-09-30
- Yuchen 吐槽分层定价:快 2 倍贵 2 倍,「超快」要 6 倍价格 — Yuchenj_UW · 2026-09-30
- OpenAI 自曝「tokenmaxxing」:训练推理都烧爆 token — BorisMPower · 2026-09-30