API缓存token计价实质把O(n²)注意力成本转嫁给用户
AccBalanced · x · 2026-07-07
开发者指出,API 定价中按'缓存 token'计量的方式,实质上让 OpenAI 把注意力机制 O(n²) 的计算成本转嫁给了调用方。这是对当前主流大模型 API 计费机制的一则经济学观察。
AccBalanced · x · 2026-07-07
开发者指出,API 定价中按'缓存 token'计量的方式,实质上让 OpenAI 把注意力机制 O(n²) 的计算成本转嫁给了调用方。这是对当前主流大模型 API 计费机制的一则经济学观察。