一张 4090 跑起个人 AI 助手:开源 Linger 配 PolyStrata,本地跑 MoE 快 5 倍
lxfater · x · 2026-11-19
博主 servasyyai 分享了在一张 4090 上自建个人 AI 助手的方案,用开源项目 Linger 加推理引擎 PolyStrata,模型自己挑、任务随便跑、0 Token 成本。
PolyStrata(推理引擎)
- 把 MoE 模型专家分层放置:常用的放显存、少用的放内存、很少用的放 SSD,8G 显存的笔记本也能跑
- 支持 Qwen、DeepSeek、GLM、Gemma 等 12 个模型,运行中可切换;跑大模型比同配置 llama.cpp 最高快 5 倍
- 兼容 OpenAI 和 Anthropic 接口,Claude Code、Codex 可直接接入
Linger(个人助手)
- 接入邮件、聊天、日历后可跨应用找上下文,邮件草稿需人工确认才发送
- 会主动提醒:客户约谈预算时先占时间、写好简报
- 大任务会拉起 Agent 团队分工,成果交用户审核
模型可自由混搭:主控用已订阅的顶级模型(Opus、GPT 等),杂活交给本地模型。作者实际配置是 Mac 上跑 Linger,接 4090 本地部署的 Gemma。lxfater 表示也想复现,并@ 张博希望拍一期「Personal Agent 的一天」实测视频。
「编程与Agent」频道最新
- Claude Code 团队自曝约 90% 代码由 Claude 写成与审查 — minchoi · 2026-11-19
- Replit 推出 MCP Server,AI 助手可直接操控工作区 — modelcontextprotocol · 2026-11-19
- 开发者开源 t3boat:一键把 T3 Code agent 搬上云端机器 — gethackteam · 2026-11-19
- Agent Skill「Ponytail」走红:教 AI 先复用再写码,代码量省 53% 成本降 26% — techNmak · 2026-11-19
- 大学教授 lemire 怒斥 AI slop:GitHub 提问被 AI 生成回复敷衍 — lemire · 2026-11-19
- 开源办公套件 Univer 登顶 GitHub Trending:29.9k 星、25+ 行业 140+ 场景 — alifcoder · 2026-11-19