Inference.net 推出流量镜像评测流程，先试 Kimi K3 再切换
MatthewBerman · x · 2026-07-28
这条帖在转述 Inference.net / Catalyst Gateway 的上线评测流程：团队可以先不切流量，先用网关对生产流量做镜像和评估，再决定是否切到 Kimi K3。
这套流程怎么做
- 安装 Gateway。
- 先把线上流量继续发给当前模型。
- 网关会先用一个 RLM 基于真实数据生成 eval，大约需要 24 小时。
- 然后把线上流量 镜像 到 Kimi K3，但生产仍走旧模型。
- 如果评测结果健康，会收到 Slack 通知，提示可以安全切换。
- 最后只需要把代码里的 model id 改成 kimi-k3。
这类方案的卖点是：在不冒生产风险的前提下做模型迁移，并宣称能把 token 成本降低约 50%。
「Infra」频道最新
- 数据库优化把 CPU 从 35% 降到 5%，p95 也降到 3 毫秒 — DanielLockyer · 2026-07-28
- 谷歌和 Meta 数据中心收入正帮地方减税涨薪 — aronchick · 2026-07-28
- Mapbox 推出覆盖 2.5 亿地点的 Places API — anselm · 2026-07-28
- AI 先驯服量子计算机，再拿它做窄科学计算 — imjustnewatai · 2026-07-28
- Kimi K3 登陆日本，2.8 万亿参数开权重并给出低价推理 — DavidBennett__ · 2026-07-28
- 一条 Kimi-k3 段子把年费和自建成本拉到百万级 — HarveenChadha · 2026-07-28