16GB AMD 显卡跑 48GB 需求的 Drama 3：Red Curtain 魔改方案实测
fechyyy · reddit · 2026-10-18
Fish Audio 的语音生成模型 Drama 3 官方要求 48GB NVIDIA 显卡，但 Reddit 用户 fechyyy 与 Claude 协作开发了开源项目 Red Curtain，成功在 16GB 的 RX 9070 上跑通这个 35B MoE（每 token 约 3B 激活）模型。
核心做法：约 32GB 的 FP8 专家权重留在系统内存，只把实际用到的专家缓存到 GPU，其余以 BF16 在显卡上运行。实测数据：加载约 17 秒，占 11-12GB 显存、约 35GB 内存；生成 3.3 秒语音约需 13 秒，11.6 秒语音约需 37 秒——慢于实时，但做短片段够用。附带 Web UI，支持参考音频克隆、多说话人脚本，以及 [laughing]、<whisper> 等与官方编辑器相同的标签。
踩坑经验：偶发「说完第一句就沉默」是 Drama 3 本身的问题（vLLM 配方也提到），并非 AMD 移植导致；有效缓解方法包括关闭 top-k（默认 30 时沉默更频繁）、给每个说话人指定参考音色、避免行首放声音标签，这些已设为默认。目前仅在 RX 9070（gfx1201）上验证，权重需从 Hugging Face 下载。
「Infra」频道最新
- antirez 社区项目支持 DeepSeek V4.1 Flash：40% 路由专家张量已更新 — returnity · 2026-10-18
- 推算 Intel Razor Lake AX 本地跑 27B 密集模型可达 46 TPS — Terminator857 · 2026-10-18
- 台积电放话:"绝不给对手留下任何残羹"，AI 芯片竞争升级 — Beth_Kindig · 2026-10-18
- Agent 用户周末狂跑 DeepSeek V4.1 Flash,DeepInfra 降价 51% — gharik · 2026-10-18
- a16z 不投 neocloud 内幕:借债囤 GPU 对标 2000 年带宽泡沫 — markjeffrey · 2026-10-18
- SemiAnalysis:vLLM 分离式推理达每美元 13 亿 tokens,较 B300 聚合部署提升 4 倍 — woosuk_k · 2026-10-18