研究者尝试三值化让 DeepSeek 跑进单卡 RTX 3090
casper_hansen_ · x · 2026-10-17
Casper Hansen 提出一个想法：通过三值化（ternarizing）模型，让 DeepSeek v4.1 Flash 1017 在单张 RTX 3090 + 64GB RAM 上运行。他认为这在技术上可行，但开放问题是如何保持足够的 agent 准确率、避免明显的能力退化，并表示自己正在研究这个问题。在后续回复中他补充说一台 DGX Spark 也能胜任，但成本高得多。
「Infra」频道最新
- Pipecat 语音 Agent 跑上 Cloudflare Python Workers,WebRTC 实现可打断对话 — ritakozlov · 2026-10-17
- cuda.fast 排行榜：投机解码让 Bonsai 2 9B 在 DGX Spark 上快 240.9% — HankYeomans · 2026-10-17
- 开源 Durable PTY：让 AI 编程 Agent 崩溃重启后原地满血复活 — jasonkneen · 2026-10-17
- RTX 5090 停产后 AMD Radeon AI Pro R9700 欧洲涨价超 1000 欧 — BreadUndPeeTears · 2026-10-17
- LeRobot 流式加载 10.7TB 数据集,等数据仅占训练时间 0.52% — RemiCadene · 2026-10-17
- AI agent 云端化或引爆算力需求，云厂商成最大赢家 — Thionne_WTZ · 2026-10-17