800 美元二手 3090 主机本地跑 DeepSeek 4.1,2 量化仅 2-3 token/s
LankyGuitar6528 · reddit · 2026-11-11
Reddit 用户在一台 800 美元收的二手游戏主机(32GB 内存 + 单张 3090)上本地跑起了 DeepSeek 4.1,感叹放在不久前这还是前沿模型级别的存在。目前只有 2 bit 量化、速度仅 2-3 token/s,实用性有限,但他手里已有 128GB 内存和一块闲置 3060,可能还会再加一张 3090,准备继续折腾升级。
「Infra」频道最新
- Anthropic Q3 短期算力花了 50 亿美元,现货溢价是长约的近 2 倍 — tengyanAI · 2026-11-11
- UK Sovereign AI 投资芯片创企 Fractile 重新设计 AI 芯片 — charlieharris01 · 2026-11-11
- 把向量检索搬进 Snowflake SQL:一次告别外部 RAG 编排的实践复盘 — dima806_dima · 2026-11-11
- AI 芯片公司 Fractile 融资 7.2 亿美元,DRAM 直接叠在处理器上 — Tom_Westgarth15 · 2026-11-11
- Mobile AI Factory:智能体流水线为手机自动造专用小模型,胜过五次提示前沿模型 — kalyan_kpl · 2026-11-11
- Vivo×Starlink 卫星直连手机服务巴西两周破 1000 万用户 — XFreeze · 2026-11-11