Zeno：16GB Mac 本地运行 Qwen3.5-35B
close_Meal6005 · reddit · 2026-08-19
初创公司 Icosa 发布了本地 AI 工具 Zeno，允许在 Mac 上完全本地运行 4-bit 量化版的 Qwen3.5-35B-A3B 模型。针对 16GB 内存无法完全加载大模型的问题，他们构建了 offloading（卸载）系统，而非对模型进行剪枝。该工具免费、无水印且保护隐私。
「Infra」频道最新
- OpenWolf: 用 7 个隐藏钩子优化 AI 编码助手的上下文 — tom_doerr · 2026-08-19
- Gatana MCP 网关新增持久化存储，支持全加密 — Gatana_Official · 2026-08-19
- Unsloth 推出 Dynamic v3 量化，Qwen 27B 精度提升 10% — danielhanchen · 2026-08-19
- NVIDIA 推出 NeMo Switchyard：智能体多模型路由方案 — NVIDIA Developer · 2026-08-19
- 10T 参数模型推理达 1000 TPS，AGI 实力差距引猜测 — legit_api · 2026-08-19
- 反驳数据中心抵制叙事：居民愤怒的是本地危害而非 AI 本身 — AndyMasley · 2026-08-19