Mac单机跑2.4T参数模型：1-bit量化实测与SVG生成测试
Ok_Technology_5962 · reddit · 2026-08-14
一位开发者在配备512GB内存的Mac Ultra上，使用Unsloth的1-bit量化方案（iQ1S）成功运行了高达2.4万亿参数的模型，显存占用约508GB。
实测显示，该量化模型在中等推理模式下能达到约50 t/s的生成速度，但在上下文达到50k tokens时会降至5 t/s。作者使用该模型进行了多项生成测试：
- 游戏代码：成功生成了带有重力和物理引擎的飞行模拟器代码，但在96k token限制下才完整输出。
- SVG图像：在生成复杂SVG图像（如熊猫野餐、水豚泡温泉）时表现惊人，模型甚至能自主调用Python生成噪点和纹理，结构连贯且部件位置精准。
所属事件:硬核实测多平台跑通2.4T参数Qwen模型(3 条相关)→
「Infra」频道最新
- Google Willow 芯片量子纠错降 40 倍，比特币 Q-Day 或提前 — jamestagg · 2026-10-16
- Vibe coding 数据管道易,亿级生产可靠难:八大数据工程课题清单 — Zachly · 2026-10-16
- 大型数据中心仅约50-150个常驻岗位,微软首楼约50名全职员工 — brezina · 2026-10-16
- 2027 年笔记本将跑 Opus 5.5 级模型？Qwen 27B 数据佐证 — cephaloform · 2026-10-16
- Oracle 一周跌 12%、较 6 月高点近腰斩，市场用脚投票 OpenAI 敞口 — alvelda · 2026-10-16
- 美国数据中心暂停令突破 400 起，AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16