LithosAI 推出 Kimi K3，推理速度达 800 tokens/秒
Tim_Dettmers · x · 2026-08-20
LithosAI 发布了首个定价层级和 API，主打极致的智能体推理速度。其 Kimi K3 模型在标准 GPU 上实现了每用户 800+ tokens/秒的推理速度，同时保持完整模型质量，声称比主流提供商快 16 倍。
核心特点：
- 极致速度：在单节点 8×B300 上实测达到 800+ tokens/秒/用户。
- Agent 优化：针对包含规划、工具调用、观察、重试的 Agent 循环进行了低延迟优化。
- 兼容性强：提供 OpenAI 和 Anthropic 兼容的 API，支持 Claude Code、Codex 等多种 Agent 框架，仅修改一行 URL 即可接入。
- 支持模型：除 Kimi K3 外，还支持 GLM 5.3、Qwen 3.8、DeepSeek V4 等。
所属事件:LithosAI 推出 Kimi K3，推理速度超 800 tokens 每秒(3 条相关)→
「Infra」频道最新
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性：衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16
- Khala 研报对比 peaq、THOR、BitRobot、Axis 四家机器人数据代币化项目 — 0xSammy · 2026-10-16