用 Claude Code 造超小神经网络:CPU 上跑到约 6k token/秒
GregoryDiamos · x · 2026-09-07
工程师 Gregory Diamos 为数据处理的 CPU 推理需求,让 Claude Code 自主探索「小到离谱的神经网络」,得到三个有趣的发现,模型单核速度约 6k token/秒。他提醒这仍是实验性质,不适合直接当生产模型:若要实际使用,应先做数万亿 token 的基础模型训练再微调;按单核 6k tok/s 估算,在 32 核 CPU 上跑完需数月。
所属事件:开发者用 Claude Code 造出超高速 CPU 推理小模型(4 条相关)→
「编程与Agent」频道最新
- 研究者提出智能体攻击面公式:模型+数据+工具+权限 — JayAlammar · 2026-09-07
- 作者用 GPT-6 Astra vibe coding 出《奥德赛》交互叙事长卷 — Pristine_Good7326 · 2026-09-07
- GPT-6 Astra 搭配 MCP 一条 prompt 让 AI 自动接管你的重复工作 — TawohAwa · 2026-09-07
- 实测:Code X 的 Computer Use 操作不了微信桌面端,飞书却可以 — yihui_indie · 2026-09-07
- MCP 工具权限怎么管?Agent Proxy 按主机与方法预授权 — radim11 · 2026-09-07
- Agent 记忆≠可信上下文层,企业记忆赛道遭质疑 — femke_plantinga · 2026-09-07