用 Rust 开发玩具 LLM：Candle 还是 Burn？作者纠结框架选型
Enderlook · reddit · 2026-10-21
Reddit 用户 Enderlook 正在用 Rust/Candle 开发训练自己的玩具 LLM，遇到框架瓶颈来征求意见：
- Candle 的痛点：flash attention 缺反向传播，只能用全注意力；缺 GatedDeltaNet2、MLA 等新特性，自己移植 CUDA kernel 工作量大
- Burn 的吸引力：完整支持训练、平台覆盖广，配合 CubeCL 可用 Rust 一套代码编译到 CUDA/HIP/Metal/WebGPU/CPU，新特性实现也更多；缺点是更慢、量化支持少、社区小
- 第三选项：留在 Candle 但引入 CubeCL 来借用 Burn 的 kernel；或者干脆直接上 Python/PyTorch——生态最全、几乎所有新论文都有参考实现
作者的核心顾虑是：如果这次迁移后再次受限，是否应该一步到位。帖子汇集了 Rust 生态里做 LLM 训练的真实取舍，评论适合关注轻量框架选型的开发者。
「编程与Agent」频道最新
- 把 LLM 结构化输出做成游戏：你选 token，约束判对错 — nicodotdev · 2026-10-21
- 「智能体债务」：老技术债换新名，agent 堆积无人问责 — YvesMulkers · 2026-10-21
- OpenAI、Anthropic 改用系统证书曾被骂，如今被赞有先见之明 — samuelcolvin · 2026-10-21
- Agent 自己写的测试不算数:四招拦截「绿灯但无用」的测试 — ComprehensiveShake76 · 2026-10-21
- NVIDIA Nemotron Retriever 系列模型上线 Baseten — baseten · 2026-10-21
- Claude Mods:把 agent harness 从面向机器翻转向面向人 — daniel_mac8 · 2026-10-21