哈佛发布 61.2 亿次请求的真实 LLM 推理流量数据集
markjeffrey · x · 2026-09-22
哈佛大学与 Bittensor 上的开放推理网络 Chutes 合作发布新论文，研究了整整一年的生产环境 LLM 流量，共 6.12 亿次请求的推理元数据追踪，并将完整 trace 开源。数据集可用于真实世界 LLM 服务负载理解、系统设计与基础设施优化研究。
所属事件:哈佛开放 61.2 亿次请求的真实 LLM 推理流量数据集(3 条相关)→
「研究」频道最新
- 架构对比研究引猜想:某架构在多跳规划上出现监测性异常尖峰 — ChowdhuryNeil · 2026-11-12
- LMSYS Megakernel 把 Muse Spark 解码提速到 1109 tok/s，2.1 倍于基线 — hsu_byron · 2026-11-12
- ArcGrav 提出跨模型 Agent 控制语言，用结构化 prompt 降 token 开销 — ArchitecturalGravity · 2026-11-12
- 90 条演示数据训练,开源双臂机器人玩拼图成功率约 60% — DanGrover · 2026-11-12
- FutureHouse 打造 deslopper：Kosmos 报告可读性逼真专家手笔 — proteinrosh · 2026-11-12
- AI 会大幅减少生物实验?反驳:未映射的信号通路仍需湿实验证伪 — francoisfleuret · 2026-11-12