TEAS 基准:按数据集自然长度测推理,报告成本与能耗
PontiEdoardo · x · 2026-09-01
Edoardo Ponti 介绍 TEAS 评测方法:不同于固定长度测量的失真,TEAS 按每个数据集的自然长度处理 chunked prefill、拒答以及 prefill 与 decode 混合的步骤,从而捕捉真实的稀疏激活与带宽利用率。指标覆盖成本、准确率、性能(用户体验与系统输出)以及能耗估计,其中准确率用于确认运行有效性并揭示可用的权衡。
所属事件:英国三校开源 TEAS 基准:跨 9 种加速器测 AI 推理成本与能耗(3 条相关)→
「Infra」频道最新
- 论文:LLM 竞价采购平台可省 10%-71% 推理成本 — _onionesque · 2026-10-18
- 560B MoE 塞进 4 台 DGX Spark:Ling 3.1 Flash 用 llama.cpp RPC 跑通 — BerryBlush_Rogers691 · 2026-10-18
- SGLang Summit 赞助商一周从 11 家涨到 36 家 — ying11231 · 2026-10-18
- Oracle CDS 飙至 300bps 创纪录,被称 AI 交易倒下的第一块多米诺 — arthurcolle · 2026-10-18
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18