用户质疑额度消耗异常,官方称 KV cache 一直开启、正扩容缓存命中
arthurcolle · x · 2026-09-04
有用户公开质疑某推理服务商:发布最初几天内消耗了大量 credits,怀疑 KV cache 当时并未启用,否则不可能用掉这么多额度;并认为其订阅计划性价比不佳,称订阅应定期补充额度而非只给 API 折扣。
官方回应称 KV cache 一直处于开启状态,当前首要任务是在多家供应商之间管理扩容并提升缓存命中率。这场对话暴露了推理服务在缓存命中与计费透明度上的真实矛盾。
所属事件:用户质疑 abliteration 额度异常，官方称 KV 缓存已开启(2 条相关)→
「Infra」频道最新
- 推理公司员工自曝只做 GPU 转售,业内人质疑 VC 为何还投 — firstadopter · 2026-09-04
- 爆料称 GPT-6 Astra 用超 10 万张 GPU 训练,规模创 OpenAI 纪录 — BLUECOW009 · 2026-09-04
- Modal 支持为 Cursor Cloud Agent 配备专属沙箱运行 — AAAzzam · 2026-09-04
- 网友算账:到 2029 年单集群算力够训 68 个 GPT-6,还远没到极限 — scaling01 · 2026-09-04
- NVIDIA Jetson 曝 initrd 命令注入漏洞，物理接触即可绕过 Secure Boot — jedisct1 · 2026-09-04
- Ollama 推出交互式菜单，本地模型与 Agent 启动不再靠记命令 — Technovangelist · 2026-09-04