公开 61.2 亿次请求的 LLM 推理元数据,覆盖一年真实服务负载
generativist · x · 2026-09-21
研究团队 1a1a11a 宣布发布一整年的 LLM 推理服务元数据，包含 61.2 亿次请求，可与 Jon Durbin、Chutes AI 等合作者协作完成，由研究生 William Nixon 主导。
数据集旨在支持对真实世界 LLM 服务负载的研究，可用于系统设计与基础设施优化，是了解生产环境推理负载分布的难得一手数据。数据集地址见原帖链接。
所属事件:哈佛开放 61.2 亿次请求的真实 LLM 推理流量数据集(3 条相关)→
「Infra」频道最新
- SemiAnalysis 深文：MoE 模型如何映射到推理硬件的算力与数据搬运 — zephyr_z9 · 2026-09-22
- Huawei HiZQ 是真 HBM,DeepSeek 一切设计都在省带宽 — zephyr_z9 · 2026-09-22
- Halo 训练平台发布：SGLang 担纲主力 rollout 引擎支持异步 RL — ying11231 · 2026-09-22
- SiliconBench：评测九款 Apple Silicon 引擎的速度、内存与保真度 — PennState · 2026-09-22
- Engram 检索架构省不了全部参数,但可砍 40-50% HBM 需求 — bookwormengr · 2026-09-22
- 华为 9·19 发布解读：长程 Agent 瓶颈在数据搬运而非算力 — krishnan · 2026-09-22