呼吁 Qwen4 27B 搭载可卸载到内存的 100B+ Engram
casper_hansen_ · x · 2026-10-03
Casper Hansen 提出一个本地模型社区会疯狂追捧的想法:Qwen4 27B 搭配 100B+ 参数的 Engram(世界知识模块),可卸载到 RAM + NVMe——小 VRAM 显卡就能跑,却拥有大 MoE 的世界知识。属于对开源模型架构方向的讨论与期待。
「Infra」频道最新
- tinygrad 推出 768GB 显存 tinybox:4 张翻新 MI300X 售价 8.9 万美元 — viksit · 2026-11-19
- 纯 Rust 推理引擎 RustingStrata 实测:3060 上跑 Qwen MoE 略胜原版 Strata — Serious_Scarcity7818 · 2026-11-19
- 投资人感叹:市场对不确定性的厌恶盖过了英伟达财报赚钱能力 — MartinGTobias · 2026-11-19
- SGLang 宣布为新模型 DaisyRose-27B 提供 Day-0 支持 — ying11231 · 2026-11-19
- Linux LTS 补丁洪峰将至:单日 3318 个补丁,「人类根本审不完」 — pkqzy888 · 2026-11-19
- DaisyRose-27B 背后:自建沙箱服务降本 80%,百万次运行成功率 99.95% — BanghuaZ · 2026-11-19