INT21 两工程师指挥 AI 两周造 20 个推理引擎,比 SGLang 快 2.4 倍
bingxu_ · x · 2026-10-03
创业公司 INT21 宣布:仅 2 名工程师指挥 AI,在两周内构建了 20 个完整推理引擎;六款语言模型的文本生成速度全面超过 SGLang,最高快 2.4 倍,音频生成最高比 vLLM 快 7.5 倍。其 CEO 接受 Business Insider 采访称,CUDA 人才长期稀缺,AI 正在填补这一缺口。
- 过去 CUDA 工程师逐个手写并测试 kernel,如今 AI 大量接管这部分工作,工程师转为「指挥」AI
- INT21 把这一模式从单个 kernel 推进到完整推理引擎层面
- Business Insider 报道指出,CUDA 工程师因能从芯片中榨出数百万美元算力价值而长期抢手,现在他们的角色正转向管理干活的 AI
- 发帖人 bingxu 由此断言:agent 进化是 GPU kernel 时代终结的开始
「编程与Agent」频道最新
- ANT 上市前夜数据:Claude Code 一年反超 Cursor 和 Copilot — antgoldbloom · 2026-11-19
- 开发者向 GKE 沙箱项目提 PR:定期 checkpoint 防 agent 进度丢失 — yoimnotkesku · 2026-11-19
- AWS AgentCore Identity 支持私有 CA,Agent 可直连内网自建 IdP — AWS ML Blog · 2026-11-19
- Orchestrator Cloud Agents 结束测试正式上线 — julianweisser · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- She 用 Claude Code 自制大头贴机:举手倒计时自动出照片条 — toolstelegraph · 2026-11-19