求助:将 Qwen3.8 27B 转换为 ONNX 格式以适配 NPU
xXDennisXx3000 · reddit · 2026-08-17
用户尝试将 Qwen 3.8 27B (safetensors bf16) 转换为 ONNX 格式,以便在 Strix Halo 等 NPU+GPU 混合设备上充分利用硬件性能。
用户表示在 Linux Ubuntu 环境下尝试了 3-4 天均未成功,寻求社区帮助以完成转换并分享给其他用户。
「Infra」频道最新
- 给预训练 Transformer 换上 Titan 模块:推理提速且性能损失有限 — behrouz_ali · 2026-10-16
- NVIDIA Nemotron 3.5 Bolt 74B-A9B 登陆 Ollama,2-bit 量化塞进 24GB 本地跑 — ollama · 2026-10-16
- 商务部向 GlobalFoundries 重新分配 9.55 亿美元芯片补贴,押注硅光子 — pstAsiatech · 2026-10-16
- 马斯克放话要超10GW算力,英伟达把SpaceX列为云客户联合设计太空服务器 — elonmusk · 2026-10-16
- 黄仁勋:马斯克 AI 算力规模已从 K 级跃升至 M 级 — elonmusk · 2026-10-16
- EpochAI 估 GPT-6 训练算力 4.6e26 FLOP,引算力圈质疑参数高估 — scaling01 · 2026-10-16