公开 61.2 亿次请求的 LLM 推理元数据,覆盖一年真实服务负载
generativist · x · 2026-09-21
研究团队 1a1a11a 宣布发布一整年的 LLM 推理服务元数据，包含 61.2 亿次请求，可与 Jon Durbin、Chutes AI 等合作者协作完成，由研究生 William Nixon 主导。
数据集旨在支持对真实世界 LLM 服务负载的研究，可用于系统设计与基础设施优化，是了解生产环境推理负载分布的难得一手数据。数据集地址见原帖链接。
所属事件:哈佛开放 61.2 亿次请求的真实 LLM 推理流量数据集(3 条相关)→
「Infra」频道最新
- 4GB 显存笔记本上单挑 llama.cpp：Rust 自研推理引擎 ge 实测 — Raptor2496 · 2026-11-12
- 马斯克:太空 100GW 光伏相当于地面 800GW,为 AI 算力供电大不同 — elonmusk · 2026-11-12
- 实测：Kimi K3.1 Pro 单任务成本仅 Opus 5.5 的 1/5.4，价目表差距只有 2 倍 — Arindam_1729 · 2026-11-12
- 首个百亿级向量检索基准 Dino10B 发布:10B 条 1024 维嵌入、共 10.3TB — philipvollet · 2026-11-12
- TechCrunch：大量宣布的数据中心项目可能根本建不成 — TechCrunch AI · 2026-11-12
- Meta 基础设施负责人 Santosh Janardhan 离职 — TechCrunch AI · 2026-11-12