25GB机器跑起GLM-5.2
paulabartabajo_ · x · 2026-07-13
作者称可以在一台 25GB 内存 的机器上,以“非常慢”的速度运行接近前沿的 GLM-5.2。
这条帖子的重点不是模型参数本身,而是一个有点 hacky 但很漂亮的开源贡献:它说明模型的“内存墙”并非绝对,至少在更小机器上也能把大模型跑起来。作者顺带呼吁去 GitHub 给项目点星。
所属事件:COLIBRI方案实现25GB内存跑744B大模型(3 条相关)→
「Infra」频道最新
- Nature Physics 论文:可重构折射率实现对多模波传播的任意控制 — MarioKrenn6240 · 2026-10-27
- 分析师实测 RTX Spark 笔记本:满载跑 30B 模型风扇不吵、续航出色 — Scobleizer · 2026-10-27
- Reflection AI的Beam-1.0登顶美国开源权重模型:23B激活参数逼近Qwen3.8 — ryanshrout · 2026-10-27
- 239GB 机器人数据集重传仅走 2.6MB:petabyte 级训练数据管道揭秘 — mervenoyann · 2026-10-27
- Intel 宣布收购 Classiq,打造全栈量子计算平台 — BenBajarin · 2026-10-27
- 分析师:蚂蚁自建数据中心与自研推理芯片将进一步抬高利润率 — BenBajarin · 2026-10-27