作者用 Claude Code 造 10k tok/s CPU 小模型，训练损失单调下降
GregoryDiamos · x · 2026-09-07
作者 Gregory Diamos 提出应重新审视「小得离谱」的神经网络：他需要一个能在 CPU 上跑到 10k tok/s 的模型做数据处理，于是让 Anthropic 的 Claude Code 用一批 token 自主构建。在 4.91B token 的训练中，平滑后的训练损失在每个课程阶段内单调下降，且到训练结束时仍在下降，未出现饱和。作者称过程中有三个有趣的发现（详见附图/后续推文）。
所属事件:工程师用 Claude Code 造出 CPU 上万级 token/秒超小模型(8 条相关)→
「编程与Agent」频道最新
- Celesto 推出便宜近 90% 的 CI Runner，兼做 Agent 云电脑 — aniketmaurya · 2026-10-27
- Runway 发布 App Studio：描述即生成图片视频音频创意应用，无需代码 — runwayml · 2026-10-27
- 用 $28 算力让模型给自己造 copilot：他的新模型个人基准 — bucolucas · 2026-10-27
- 创始人和 Claude 4 天产 46 条 App 视频，省下 1.15 万美元 — PrajwalTomar_ · 2026-10-27
- Agent 中途改计划该被允许吗：真实系统介入时的边界之辩 — wistfulcracker84 · 2026-10-27
- HeyGen 联手 Canva:幻灯片讲者备注自动变数字人讲解视频 — HeyGen · 2026-10-27