LithosAI 推出超快推理，Kimi K3 达 800+ tokens/s
JiaZhihao · x · 2026-08-20
LithosAI 宣布推出其首个定价层级，主打在标准 GPU 上实现极快的 Agent 推理速度。其 Kimi K3 模型实测速度已达每用户 800+ tokens/s，且保持完整模型质量。Lithos 引擎通过优化服务系统而非降低模型精度来提升速度，适用于 Claude Code、Codex 等任意 Agent 框架，提供托管 API 和本地部署两种模式，将于 9 月 1 日正式公测。
所属事件:LithosAI 推出超快推理：Kimi K3 达每秒800+ token(2 条相关)→
「Infra」频道最新
- Monad Agent Hub 上线，支持无代码快速创建 Agent — bgmshana · 2026-08-20
- AWS 靠 AI 基础设施需求延续霸主地位 — DavidLinthicum · 2026-08-20
- 逆向 RK3588 NPU：开源编译器实现 GPT-2 跑出 36 tok/s — one_does_not_just · 2026-08-20
- llama.cpp 集成 dflash2：Qwen 3.8 27B 推理提速至 3 倍 — Top-Eye-8104 · 2026-08-20
- NVIDIA 宣布 9 月举办 FLARE Day 活动 — AllThingsApx · 2026-08-20
- 开发者计费指南：按 Token 付费或比订阅更划算 — heypearlai · 2026-08-20