LithosAI 推出超快推理,Kimi K3 达 800+ tokens/s
JiaZhihao · x · 2026-08-20
LithosAI 宣布推出其首个定价层级,主打在标准 GPU 上实现极快的 Agent 推理速度。其 Kimi K3 模型实测速度已达每用户 800+ tokens/s,且保持完整模型质量。Lithos 引擎通过优化服务系统而非降低模型精度来提升速度,适用于 Claude Code、Codex 等任意 Agent 框架,提供托管 API 和本地部署两种模式,将于 9 月 1 日正式公测。
所属事件:LithosAI 推出 Kimi K3,推理速度超 800 tokens 每秒(3 条相关)→
「Infra」频道最新
- Oracle 一周跌 12%、较 6 月高点近腰斩,市场用脚投票 OpenAI 敞口 — alvelda · 2026-10-16
- 美国数据中心暂停令突破 400 起,AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- 微软研究院发布 Magnetar:最快 zkVM,比现有方案快 10-39 倍 — jedisct1 · 2026-10-16
- Bonsai 2 2B 端侧模型登 iPhone:120 token/s,速度两倍于 Qwen 3.5 2B — cephaloform · 2026-10-16
- AI 挤占产能:三星因 E-glass 短缺下调 Q4 手机产量 — zephyr_z9 · 2026-10-16
- 美国白宫科技政策主任谈 Empire AI:纽约共享算力基建 — mkratsios47 · 2026-10-16