Shopee 自建大模型：API 调用 8 月百倍，欺诈检测提速 50 倍

nvidia · x · 2026-08-21

电商巨头 Shopee 公布了其自研前沿大模型 Compass 的成果。该模型专为东南亚多语言电商场景设计，解决了通用模型在本地化任务上的“锯齿状前沿”问题。基于 NVIDIA AI 工厂栈，Compass 在八个月内月 API 调用量从 30 亿激增至 340 亿。关键成果包括：API 调用规模增长 113 倍；利用 TensorRT-LLM 实现生产环境欺诈检测速度提升 50 倍，处理成本降低 90%。技术栈涵盖 Megatron-Core 预训练、NeMo 微调，并运行于 A100、H100 及 Blackwell GPU。