实测数据显示某芯片能效比领先,Chat 与 Agent 工作负载差异显著
AccBalanced · x · 2026-08-26
针对特定芯片的性能对比显示,其在每瓦性能和每美元性能上表现优异。数据对比了两种典型工作负载:
- Chat 工作负载:基于 InferenceX 2.x (8k/1k ISL/OSL)
- Agent 工作负载:基于 AgentX (250k/1k)
讨论指出,前者代表 2025 年 Q2 之前的市场情况,后者反映当前市场需求。选择推理吞吐和延迟指标时需谨慎区分工作负载类型。
所属事件:新款 AI 芯片实测能效比出众 获业内盛赞(4 条相关)→
「Infra」频道最新
- AI 大脑引入潜意识与长期记忆,宣称大幅降低幻觉 — Scobleizer · 2026-08-26
- NVIDIA 展示 Rubin 与 Blackwell 等全栈 Agent 计算平台 — nvidia · 2026-08-26
- Hot Chips 2026 热词:数据流架构取代传统缓存 — bookwormengr · 2026-08-26
- 超大规模与云厂商无法满足推理需求 — markjeffrey · 2026-08-26
- OpenRouter 出现百万上下文匿名模型 — jonathanmast · 2026-08-26
- Lighter 密码学系统通过优化实现超 10 倍性能提升 — gajesh · 2026-08-26