Flux 2 Klein 跑进浏览器:换 0.6B 编码器加 int8 量化实现 WebGPU 推理
radamar · x · 2026-09-10
开发者 radamar 分享了一个实验：借助 Fable/Astra，把图像模型 Flux 2 Klein 完全跑在浏览器 WebGPU 里，虽然速度慢但已可用，并提供了在线 demo 和 npm 包 flux-klein.js。
他给出的关键压缩技巧：
- 用 Qwen3 0.6B 替换原本的 4B 文本编码器
- 换用 bflai 的小型 VAE 解码器
- 桌面端将 transformer 量化到 int8，移动端量化到 int4
- 移动端采用流式加载权重——整模型放不进手机内存
所属事件:开发者让 Flux 2 Klein 借 WebGPU 在浏览器中运行(2 条相关)→
「多模态」频道最新
- Muse Wonder 加 SAM 3.1 组合，一个 API 平台搞定全图玉米粒分割 — keerthanpg · 2026-10-26
- Muse Wonder 分块 + SAM 3.1,一粒不漏分割整根玉米粒 — nikhilaravi · 2026-10-26
- LichtFeld Studio v0.5.4.3：社区贡献的 SteadySplats 等新功能上线 — janusch_patas · 2026-10-26
- 一次 prompt 直出 2-3 分钟旁白短片,作者实测 Antigravity 生成效果 — AI_Andrew · 2026-10-26
- 用户用 Gemini 全家桶做万帧动画短片：写、画、配音、配乐一条龙 — AI_Andrew · 2026-10-26
- FLUX.3 Klein 蒸馏到 4-8 步出图，CFG 直接烘进模型 — Fit-Structure-6489 · 2026-10-26