开源工具 Strata 让 RTX 3060 本地跑 DeepSeek V4.1,每秒 9-11 token
alex_verem · x · 2026-11-08
开源桌面应用 Strata(MIT 协议,支持 Windows/Mac/Linux,无需账号)可以把大模型跑在自己的电脑上,甚至能让 2021 年的游戏显卡运行 DeepSeek V4.1。
- 核心技巧:模型超出显存/内存的部分直接从 SSD 流式读取。
- 在 RTX 3060 上实测写入速度约 9-11 token/秒,超过正常阅读速度;要求约 46GB 内存和 265GB 空闲磁盘。
- 配置较低的机器也可以通过同一应用运行 Qwen3.8 等较小模型。
- 应用支持聊天、写代码和图像处理,也可与常用编码工具配合使用。
所属事件:开源工具 Strata 让 RTX 3060 本地跑 DeepSeek,每秒 9-11 token(2 条相关)→
「Infra」频道最新
- SpaceX 拟在亚利桑那建 6GW AI 园区,干冷节水年产千人岗位 — aronchick · 2026-11-08
- 训练 loss 尖峰后恢复,最终损失会更好还是更差? — francoisfleuret · 2026-11-08
- RBA 智能体给科研代码提速:12 个真实负载平均加速 2.51 倍 — YouJiacheng · 2026-11-08
- 他给 1985 年 Cray-2 超算写模拟器,跑通 GPT-3 级模型 — inductionheads · 2026-11-08
- Hyperbolic CEO 谈算力做市:三年长约对三周需求的市场空隙 — YiMaTweets · 2026-11-08
- Ben Bajarin 反驳「不需要数据中心」论:企业软件上云史正在重演 — BenBajarin · 2026-11-08