NanoGPT 训练纪录刷进 9.65 秒,CPU 协同成关键妙招
charles_irl · x · 2026-10-03
charlesirl 转发并接续 DevenPzak 的 nanoGPT 极速训练纪录冲刺:此前 @hermanbrunborg 用「最长精确匹配模型」在训练期间并行占用 CPU,把纪录从 39.9 秒压到 21.5 秒;DevenPzak 在此基础上把 CPU 模型推广到更大比例的 token,进一步将纪录降到 9.65 秒,并已提交 PR。
这一成绩建立在多个开源 PR 的协作之上(hermanbrunborg、nthngdy、cyrusghane、Daniel Monroe 等)。作者也坦承:CPU 使用在 nanoGPT 规则里属于灰色地带,所有新纪录仍待社区评审确认。
「研究」频道最新
- 实测称 DeepMind SynthIDBio 蛋白质水印可被洗掉,生物安全价值存疑 — owl_posting · 2026-10-03
- Anthropic 研究员提出「价值移植」:激活干预可让模型放弃作弊转向真正解题 — davidad · 2026-10-03
- AI Village 数据集登 HF 热门，含百万级 agent 行为样本 — aidigestorg · 2026-10-03
- Sphere Encoder 2 论文：自编码器 1-4 步生成 ImageNet 图像 — kastnerkyle · 2026-10-03
- 新论文：从词频到语义上下文，主题模型用于资产定价 — PtrPomorski · 2026-10-03
- StreamGaze 入选 NeurIPS:首个评测 MLLM 视线引导时序推理基准 — mohitban47 · 2026-10-03