本地推理党吐槽:196GB 内存不够玩,512GB 才起步

AIFlow_ML · x · 2026-11-20

AIFlowML 吐槽当前本地推理设备的内存上限:仅有 196GB RAM 已经不够用,至少需要 512GB 才能「开始有乐趣」,而在超大型项目上低于 1M 的上下文窗口基本没有实用价值。他预计这一瓶颈要到 2027 年底才可能改善。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →