Jev playground 显示推理与往返延迟,欧洲访问多付 120ms
DanielLockyer · x · 2026-09-18
作者 DanielLockyer 体验 Jev 的 playground,亮点是同时展示推理时间和往返时间。他在欧洲访问,相比托管在美国西部要多付约 120ms 的延迟成本。这为观察模型服务部署位置对延迟的影响提供了直观参考。
「Infra」频道最新
- NanoGPT 竞速新纪录 68 秒：QK 维度砍到 96 叠加 FP8 注意力 — kellerjordan0 · 2026-09-18
- 对冲基金经理:Anthropic 每 token 成本远低于 OpenAI — rohanpaul_ai · 2026-09-18
- 工程师爆料:企业根本数不清自己有多少台服务器,有人干脆藏机器 — irth7 · 2026-09-18
- SK 海力士旗下 Solidigm 拟在美国建 NAND 闪存厂 — zephyr_z9 · 2026-09-18
- 华为轮值董事长：2027 年国内 AI 训练将大规模转向昇腾 950DT — pstAsiatech · 2026-09-18
- HEIF Heist 漏洞波及 OpenAI、Slack、Meta,一个图像库撼动全网 — tszzl · 2026-09-18