763B 的 DeepSeek V4.1 Flash 2-bit 量化版单卡 32GB 跑到 50 tok/s

Ryyn_- · reddit · 2026-11-07

开发者展示 FLE Link + FLE engine 本地运行 DeepSeek V4.1 Flash 2-bit(Rin)量化版:763B 模型压到一张 32 GB 显卡上,约 50 tok/s。

FLE Link 提供 OpenAI 和 Anthropic 兼容端点,flelink connect claude 可直接打印 Claude Code、Codex、OpenCode 等工具的接入配置;引擎暴露 /fle/status 状态端点(返回 cache、draft acceptance、实时 tok/s、警告等),启动失败会给出具体原因(如 fitbudgettoolarge、ramtoosmall)。项目 MIT 开源,一条命令安装。作者自述为 FLE 开发者。