249GB 无审查 DeepSeek V4.1 Flash 跑上 Colab,速度超 118 tok/s
Healthy_Essay3388 · reddit · 2026-10-31
Reddit 用户分享了把 248.8 GB 的无审查版 DeepSeek V4.1 Flash 部署到单个 Google Colab GPU（96 GB 显存）上的开源方案，通过量化/卸载技术在订阅制 Colab 上跑出平均 118.7 tok/s、最佳单次 122.2 tok/s 的生成速度。
只需一条命令即可启动，并暴露为 OpenAI 兼容的本地 API 端点，无需自备服务器；依托 Google AI Pro 订阅每月赠送的 200 compute units 即可运行。项目地址：github.com/leonxger/deepseek-colab。
「Infra」频道最新
- a16z 数据：GPU 租金三个月涨 106%，token 价格反跌 58% — a16z · 2026-10-31
- vLLM nightly 支持 PLE 磁盘卸载,PR 标签现「Qwen4Exp」引 Qwen4 猜想 — rmhubbert · 2026-10-31
- 按分钟租 GPU 渲染只要 1 美元:一人 AI 工作室工作流曝光 — r0ck3t23 · 2026-10-31
- 四台 Mac 实测 32 个模型:M5 Max 跑 MoE 追平 M3 Ultra — Striking-Swim6702 · 2026-10-31
- 3 张 V100 跑 27B 稠密模型 sFNX 实测 114-300 tok/s — jfinkpottery · 2026-10-31
- RTX 6000 PRO 用户福音：Qwen 3.8 Flash Next 的 FLARE 1M 上下文镜像发布 — johannes_bertens · 2026-10-31