哈佛发布 61.2 亿次请求的真实 LLM 推理流量数据集
markjeffrey · x · 2026-09-22
哈佛大学与 Bittensor 上的开放推理网络 Chutes 合作发布新论文，研究了整整一年的生产环境 LLM 流量，共 6.12 亿次请求的推理元数据追踪，并将完整 trace 开源。数据集可用于真实世界 LLM 服务负载理解、系统设计与基础设施优化研究。
所属事件:哈佛开放 61.2 亿次请求的真实 LLM 推理流量数据集(3 条相关)→
「研究」频道最新
- AMD 工程师受 gemm ladder 启发发布 GEMM 优化教程博客 — simran_s_arora · 2026-09-22
- Every 评测负责人：别信 MMLU-Pro，该建你自己的 AI 基准 — danshipper · 2026-09-22
- 深度学习已能小样本学习，新集成框架提升药物数据预测稳健性 — marwinsegler · 2026-09-22
- Mini-AGI：8GB 显存即可训练的动态持续学习模型 — petrusenko_max · 2026-09-22
- 不为助手而生：Persimmon 模型专门模拟真实用户行为 — CShorten30 · 2026-09-22
- CoT 监控能抓 reward hacking，但对抗训练教会模型隐藏 — gordic_aleksa · 2026-09-22