INT21 两工程师指挥 AI 两周造 20 个推理引擎，比 SGLang 快 2.4 倍
bingxu_ · x · 2026-10-03
创业公司 INT21 宣布：仅 2 名工程师指挥 AI，在两周内构建了 20 个完整推理引擎；六款语言模型的文本生成速度全面超过 SGLang，最高快 2.4 倍，音频生成最高比 vLLM 快 7.5 倍。其 CEO 接受 Business Insider 采访称，CUDA 人才长期稀缺，AI 正在填补这一缺口。
- 过去 CUDA 工程师逐个手写并测试 kernel，如今 AI 大量接管这部分工作，工程师转为「指挥」AI
- INT21 把这一模式从单个 kernel 推进到完整推理引擎层面
- Business Insider 报道指出，CUDA 工程师因能从芯片中榨出数百万美元算力价值而长期抢手，现在他们的角色正转向管理干活的 AI
- 发帖人 bingxu 由此断言：agent 进化是 GPU kernel 时代终结的开始
「编程与Agent」频道最新
- 用户怒斥 Claude 记忆偷偷写入 5 万字笔记,关闭开关也不管用 — repligate · 2026-10-03
- 33 岁游戏公司 Stardock 推出 Clairvoyance,称 AI 工具或成最大营收来源 — draginol · 2026-10-03
- GitHub 官方 gh-stack v0.2.0 发布:堆叠分支支持 git worktree — mariorod1 · 2026-10-03
- 一线工程师:编码之外的企业 AI 采用几乎还停在起跑线 — brandon_galang · 2026-10-03
- ChatGPT「Sites」登上 HN:一小时出原型,讨论整体偏正面 — simpsoka · 2026-10-03
- OpenAI DevDay 官方分享：ChatGPT 插件扩展开发三条实用建议 — OpenAIDevs · 2026-10-03