用 Claude Code 造超小神经网络：CPU 上跑到约 6k token/秒
GregoryDiamos · x · 2026-09-07
工程师 Gregory Diamos 为数据处理的 CPU 推理需求，让 Claude Code 自主探索「小到离谱的神经网络」，得到三个有趣的发现，模型单核速度约 6k token/秒。他提醒这仍是实验性质，不适合直接当生产模型：若要实际使用，应先做数万亿 token 的基础模型训练再微调；按单核 6k tok/s 估算，在 32 核 CPU 上跑完需数月。
所属事件:工程师用 Claude Code 造出 CPU 上万级 token/秒超小模型(8 条相关)→
「编程与Agent」频道最新
- Celesto 推出便宜近 90% 的 CI Runner，兼做 Agent 云电脑 — aniketmaurya · 2026-10-27
- Runway 发布 App Studio：描述即生成图片视频音频创意应用，无需代码 — runwayml · 2026-10-27
- 用 $28 算力让模型给自己造 copilot：他的新模型个人基准 — bucolucas · 2026-10-27
- 创始人和 Claude 4 天产 46 条 App 视频，省下 1.15 万美元 — PrajwalTomar_ · 2026-10-27
- Agent 中途改计划该被允许吗：真实系统介入时的边界之辩 — wistfulcracker84 · 2026-10-27
- HeyGen 联手 Canva:幻灯片讲者备注自动变数字人讲解视频 — HeyGen · 2026-10-27