OpenAI 工程师确认 GPT-Live 缓存亲和 bug,周一将推修复
pbbakkum · x · 2026-11-22
OpenAI 工程师 pbbakkum 回应开发者反馈:GPT-Live 委托调用跨会话缓存不命中确实与「hosted responses 委托的缓存亲和性(cache affinity)」有关,属于需要改进的问题,相关修复将在周一推出。同帖中他还提到可以选一个更好的缓存键(cache key),会持续跟进。
「Infra」频道最新
- Lambda 用英伟达 CPO 交换机连万卡 GB300 集群,延迟最高降约 10% — Beth_Kindig · 2026-11-22
- Mac 本地跑 Inkling 2 Mini 实测:20GB 模型、写入约 16 token/s — jacob_posel · 2026-11-22
- GPU profiling 入门路径:测 PyTorch attention 峰值显存,配 CS336 作业2 实战 — stanfordnlp · 2026-11-22
- OpenRouter 上 42 家卖 DeepSeek V4.1 Flash,大推理商靠长约每 token 赚更多 — AccBalanced · 2026-11-22
- Inkling 2 Mini 登顶性价比榜:26B 循环 Transformer,每千题成本最低 — TheZachMueller · 2026-11-22
- 425MB 决策模型跑 CPU:自研 4bit 量化仅损 0.18pp 精度、快 2 倍 — Danmoreng · 2026-11-22