博主本地实测 27B 新模型 Bansai,仅需 5GB 内存
draginol · x · 2026-09-19
博主 draginol 开始本地运行 27B 参数的 Bansai 模型,称其只需 5GB 内存,正在测试实际智能水平,后续将分享结果。对端侧本地部署感兴趣的可以关注其后续评测。
「Infra」频道最新
- Jev 扩容幕后：Modal 成其仅有的四个子处理商之一 — AAAzzam · 2026-09-19
- 双3090上调Qwen3 27B编码Agent：单轮等待从28秒降到7秒 — bolts98 · 2026-09-19
- AgentZip:并行沙箱内存去重,压缩比达 8.7 倍 — rohanpaul_ai · 2026-09-19
- 美国公司悄悄换用中国开源模型，内部知识库成本降约百倍 — generativist · 2026-09-19
- 燃气轮机卖到2030年,数据中心电力设备积压长达数年 — CatAstro_Piyush · 2026-09-19
- OpenAI 与 Anthropic 竞相收购 20-30 兆瓦小数据中心,推理需求 2027 年超训练 — abhiadesai · 2026-09-19