LithosAI 承包 Artificial Analysis 12 项第一：GLM 5.3 Flash 跑出 1543 tok/s
JiaZhihao · x · 2026-10-21
推理服务商 LithosAI 宣布在 Artificial Analysis 榜单上以 4 个开源模型拿下 12 项第一：GLM 5.3 Flash、Kimi K3、DeepSeek V4.1-Flash 和 GLM 5.3 在输出速度、首 token 延迟（TTFT）和端到端响应时间三项指标上均居首位，其中 GLM 5.3 Flash 输出速度最高达 1543 tok/s，且不牺牲模型质量。
自 9 月公开 API 上线以来持续保持领先。公司主打「每秒注入更多智能」，面向 agentic coding、SRE、网络安全、个性化推荐和语音 AI 等延迟敏感的 agent 场景。
「Infra」频道最新
- 企业 token 支出增速从 42% 骤降至 0.2%,超大规模厂商 ROIC 跌至 20% — SumitGup · 2026-10-21
- 高通全球裁员转战 AI 数据中心：目标 2027 年 50 亿美元营收 — rohanpaul_ai · 2026-10-21
- vLLM 登台 PyTorchCon 2026：跨 TPU、AMD、NVIDIA 优化 KV cache 与内核 — PyTorch · 2026-10-21
- antirez 尝试用 DeepSeek Infer 为 DGX Spark 优化 DwarfStar 内核 — antirez · 2026-10-21
- 三进制 2-bit 端侧模型 Ternary-Bonsai-2-9B 上架 HF,支持视觉输入 — prism-ml · 2026-10-21
- GPU 管预填、Positron 管解码:异构推理组合瞄准内存带宽瓶颈 — cneuralnetwork · 2026-10-21