WeeLLM：4GB 显存无损运行 FLUX.1 等大模型
AlarmingPhrase8174 · reddit · 2026-08-16
作者发布了 WeeLLM，一种层流式推理引擎，无需量化即可在低显存设备上运行大型图像生成模型。它通过逐层从磁盘加载 Transformer 层、推理后丢弃的方式，在 RTX 3050 (4GB) 上成功运行了 12B 参数的 FLUX.1-dev (峰值显存仅 1.51GB)。项目支持约 24 种模型，但依赖 NVMe SSD 的高速 I/O，目前仅支持文生图。
「编程与Agent」频道最新
- 四步让 Claude 做出有风格的视频：还能自查出肉眼难见的瑕疵 — aakashgupta · 2026-10-16
- Datadog 发布自研模型 Scout 1.0：RL 训练的生产事故调查智能体 — HanchungLee · 2026-10-16
- 微软论文：给路由器看会话历史，多轮 Agent 任务成功率多提 3.3 分 — dair_ai · 2026-10-16
- 开源 ORA 机器人 agent:DeepSeek V4.1-Flash 驱动机械臂,零样本对标闭源 — JunGao33210520 · 2026-10-16
- 非开发者30天做出平台格斗游戏，Hermes Agent成主力 — Teknium · 2026-10-16
- 2 人+5 智能体协作写码：英文描述需求即可自动实现 — nptacek · 2026-10-16