TRT-LLM 适配 DeepSeek v4 Flash
TheZachMueller · x · 2026-07-11
有人表示，自己在飞行途中把 **DeepSeek v4 Flash NVFP4** 的相关 kernel 跑通到了 **sm_120**，并且是基于 **TRT-LLM** 完成的。 他还在寻求进一步建议：如何测试 kernel 对齐情况，以及下一步该怎么做，例如补充文件修改等。
TheZachMueller · x · 2026-07-11
有人表示，自己在飞行途中把 **DeepSeek v4 Flash NVFP4** 的相关 kernel 跑通到了 **sm_120**，并且是基于 **TRT-LLM** 完成的。 他还在寻求进一步建议：如何测试 kernel 对齐情况，以及下一步该怎么做，例如补充文件修改等。