TypeSafeAI 团队四天内在 Modal 上跑出万亿 token 推理量
josh_wills · x · 2026-10-08
Modal 官方转发案例：AI 创业公司 TypeSafeAI 的产品 Jev 上线仅三天（周四上线、周日统计），已在 Modal 平台上累计服务了 1 万亿 token 的推理请求，且负载仍在持续增长、未见放缓迹象。作者打趣称团队既擅长「scaling」也擅长投公交站广告。
所属事件:TypeSafeAI 上线数日即在 Modal 跑出万亿 token 推理量(2 条相关)→
「Infra」频道最新
- GitHub Copilot 可将任务交给本地模型 MAI-Code-1.1 Flash — mariorod1 · 2026-10-08
- 微软联合 Nvidia 推 Surface Spark:128GB 内存售价 6000 美元 — casper_hansen_ · 2026-10-08
- Google 发射首颗搭载 4 颗 TPU 的测试卫星,推进太空算力计划 — CurieuxExplorer · 2026-10-08
- GPU 租赁平台 Lium:出租率创新高,闲置 GPU 也有保底收益 — const_reborn · 2026-10-08
- MRVL 揭与谷歌芯片协议：推理加速器最高 1200 亿美元，TPU 旁的解码芯片成关键 — demian_ai · 2026-10-08
- llama.cpp 登上微软 Windows 发布会大屏,作者ggerganov感慨软硬栈合流 — ggerganov · 2026-10-08