用 Claude Code 造 10k tok/s 超小 CPU 模型,作者分享三项发现
GregoryDiamos · x · 2026-09-07
开发者 Gregory Diamos 为满足数据处理场景对高吞吐的需求，需要一种能在 CPU 上跑到每秒 1 万 token 的超小神经网络模型。他没有手写，而是给 Anthropic 的 Claude Code 大量 token 预算，让它来构建整个方案。
他表示过程中得到三项有趣的发现（细节见附图），并主张业界应重新审视「小到离谱的神经网络」在数据处理流水线中的价值——不必事事上大模型，小模型在特定吞吐需求下同样有工程意义。
所属事件:开发者用 Claude Code 打造超小 CPU 模型，吞吐达 14572 tok/s(3 条相关)→
「编程与Agent」频道最新
- 作者休陪产假，实时数字人分身接管销售还促成了采购 — toolstelegraph · 2026-09-07
- 开发者自嘲:被叫 vibe coder,「我能 15 分钟不看 Google 写完 FizzBuzz」 — tlakomy · 2026-09-07
- 同时照看 4 个并行 agent，开发者直呼像带娃 — smlpth · 2026-09-07
- 把文本扩展器交给 AI 管家:一篇别致的自动化工作流长文 — bfrench · 2026-09-07
- 开发者晒 Astra 一键清理破坏性容器,直呼效果惊艳 — Dimillian · 2026-09-07
- Codex 应用现怪异 bug:发出首个 prompt 后输入框消失 — theteknosaur · 2026-09-07