博主预测:18 个月内 16GB 机器可流畅跑高质量本地模型
julianharris · x · 2026-09-18
作者预测:未来 18 个月内,16GB 内存机器就能以双倍速度流畅运行当前旗舰级质量的本地模型。多余的内存将用于并发会话——届时让同事羡慕的不再是模型质量,而是能同时跑多少个 agent 会话:「128GB?我可以同时跑 8 个 agent」。
「Infra」频道最新
- Hyperbolic 招量化研究员:要把 GPU 算力做成可交易资产 — YiMaTweets · 2026-09-18
- 算力公司 Crusoe 融资 39 亿美元,估值达 309 亿 — beffjezos · 2026-09-18
- Periodic Labs 仅用 1300 块 H200 训出超 GPT-6 的科学模型 — hsu_byron · 2026-09-18
- Bonsai 量化模型 128k 上下文跑出 50 tok/s,24GB 卡可双开 — julianharris · 2026-09-18
- Jeff Dean 力挺专用硬件:少数工作负载将占全球大部分算力 — AccBalanced · 2026-09-18
- Silicon Data 图表显示英伟达 GPU 残值远高于直线折旧曲线 — AccBalanced · 2026-09-18