Strata 让 2021 年游戏显卡跑起 DeepSeek,靠 SSD 分页读模型
alex_verem · x · 2026-11-08
Strata 是一款免费开源应用,支持 Windows/Mac/Linux,下载后无需账号即可在本地挑选并运行大模型聊天。
亮点在于它对超大模型的处理:当模型超出本机内存时,放不下的部分直接从 SSD 分页读取。作者演示用一张 2021 年的游戏显卡跑起了 DeepSeek,展示大模型本地部署的门槛可以压得很低。
注:原帖带有明显的个人 Newsletter 推广成分,细节参数以原文为准。
所属事件:开源工具 Strata 让 RTX 3060 本地跑 DeepSeek，每秒 9-11 token(2 条相关)→
「Infra」频道最新
- SpaceX 拟在亚利桑那建 6GW AI 园区,干冷节水年产千人岗位 — aronchick · 2026-11-08
- 训练 loss 尖峰后恢复，最终损失会更好还是更差? — francoisfleuret · 2026-11-08
- RBA 智能体给科研代码提速：12 个真实负载平均加速 2.51 倍 — YouJiacheng · 2026-11-08
- 他给 1985 年 Cray-2 超算写模拟器,跑通 GPT-3 级模型 — inductionheads · 2026-11-08
- Hyperbolic CEO 谈算力做市:三年长约对三周需求的市场空隙 — YiMaTweets · 2026-11-08
- Ben Bajarin 反驳「不需要数据中心」论:企业软件上云史正在重演 — BenBajarin · 2026-11-08