15 岁开发者从零写 SLM 训练器，征求 NVIDIA/AMD GPU 实测
PainterNo8889 · reddit · 2026-11-14
一位 15 岁开发者正在构建 SLM-CREATOR：一个从零手写的硬件感知小模型训练器（Python + Rust，模型上限 1 亿参数），不用高层封装、不微调现有模型，自己实现 GPU 检测、模型规模计算、BPE 分词器和训练循环。
求助内容：因开发机只有 CPU，GPU 检测与基准测试代码只对 mock 输出验证过，希望有 NVIDIA/AMD GPU（含 ROCm）的用户运行 architecture.py 帮忙测试。
技术要点：
- 解析 nvidia-smi / amd-smi / rocm-smi / rocminfo 提取架构、VRAM、设备索引；设置 CUDADEVICEORDER=PCIBUSID 并与 torch.cuda.getdevicename() 匹配，避免多 GPU 系统指错设备。
- TFLOPS 基准：先 12 秒热身越过笔记本 boost 时钟，再取 10 组 20 次 4096×4096 矩阵乘法的中位数；检测 isbf16supported(includingemulation=False)（或算力 ≥8.0）以原生 bf16 基准，避免被软件模拟 bf16 骗过。
- 将 VRAM、训练时长、TFLOPS、token 数喂给 Rust 二进制 sizercore，按显存、Chinchilla 计算时长和数据量上限计算最大参数量。
项目刚起步（7 stars），测试约 2 分钟，反馈渠道是 GitHub Issue #1。
「Infra」频道最新
- Will Depue 被怼「2-3K 卡不算数据中心级」，爆粗回怼 Teortaxes — teortaxesTex · 2026-11-14
- 本地部署选型清单：从聊天到语音,七个场景各配一个开源模型 — alex_verem · 2026-11-14
- NVFP4 量化版 Qwen3.8-Flash 在 V100 上实测:prefill 快得惊人 — Scobleizer · 2026-11-14
- 1997年花100万美元买"假芯片"救了Nvidia,黄仁勋的豪赌往事 — bigaiguy · 2026-11-14
- SGLang Summit 2026 周边徽章曝光：CUDA OOM、KV Cash 全成了收藏品 — ying11231 · 2026-11-14
- 英伟达 5000 亿美元 GPU 借贷联盟搁浅，零成交且多家 lender 拟退出 — SumitGup · 2026-11-14