呼吁 Qwen4 27B 搭载可卸载到内存的 100B+ Engram
casper_hansen_ · x · 2026-10-03
Casper Hansen 提出一个本地模型社区会疯狂追捧的想法：Qwen4 27B 搭配 100B+ 参数的 Engram（世界知识模块），可卸载到 RAM + NVMe——小 VRAM 显卡就能跑，却拥有大 MoE 的世界知识。属于对开源模型架构方向的讨论与期待。
「Infra」频道最新
- 端侧AI初创Underdog获a16z等投资,Thom Wolf站台 — Thom_Wolf · 2026-10-03
- DeepSeek 自研芯片细节曝光：skip-scale 优化降低功耗换更高频率 — teortaxesTex · 2026-10-03
- SkyPilot 获 2000 万美元种子轮，统一调度多云闲置 GPU — skypilot_org · 2026-10-03
- 2038 年 1 月 19 日 03:14:07：32 位系统将遭遇「Epochalypse」回到 1901 年 — iannuttall · 2026-10-03
- 开发者用 LLM 制作 3D 交互指南讲解 GPU 体系结构 — ghumare64 · 2026-10-03
- Google 开源内部 Agent 编排器 AX:用 Redis 替代 etcd 管理百万级任务状态 — outlawent21 · 2026-10-03