将缓存输入 tokens 计入总用量简直是愚蠢做法
cHHillee · x · 2026-08-24
作者指出,当人们讨论使用了多少 tokens 时,通常把缓存输入 tokens(cached input tokens)也算在内。作者认为这种做法非常愚蠢。
「Infra」频道最新
- AI数据中心对当地经济影响:Abilene案例反驳负面共识 — neil_chilson · 2026-08-24
- 数据中心每十亿美元仅创造 500 个岗位 — kevinnbass · 2026-08-24
- 实测:用 Mac Mini 运行本地 Agents 避免笔记本过热 — flavioAd · 2026-08-24
- Qwen 3.8 27B 量化实测:DFlash2 与 MTP 性能对决 — Opening-Broccoli9190 · 2026-08-24
- Hugging Face Diffusers 更新 CLI,为 Agent 优化推理成本 — RisingSayak · 2026-08-24
- Claude 故障频发遭质疑,8 月超半数天数报错 — heypearlai · 2026-08-24