AMD MI355X 在 AgentX 上每美元 token 数击败 B300
AccBalanced · x · 2026-09-07
SemiAnalysis 报告称，AMD MI355X 配合 vLLM 与 LMCache 的提交，在 AgentX 基准的低交互区间，按每美元 TCO 总 token 数计算超过了 NVIDIA B300。评测团队向 vLLM、AMD 和 LMCache 的工程师致意。
转发者以「暂停 giant AMD+vLLM 实验」的玩笑口吻调侃：市场需要六个月时间重新定价「NVIDIA 是安全的」这一叙事，暗示 AMD 在推理性价比上已构成实质威胁。
「Infra」频道最新
- M1 64GB 本地跑 Astra 严重卡顿,开源模型端侧性能引关注 — natesiggard · 2026-09-07
- 一文讲透 KV Cache:为何增长、12 种优化技术与各自取舍 — AccBalanced · 2026-09-07
- 开源项目 SlimServe：消费级显卡跑量化 LLM 推理 — QuixiAI · 2026-09-07
- 全球 AI 债务发行已达 5700 亿美元,规模逼近美国市政债市场 — ivan_bezdomny · 2026-09-07
- 928 星 Wiki：无 NVLink 在 PCIe RTX 6000 上跑 397B 大模型 — TheZachMueller · 2026-09-07
- 预测：算力正从机架级迈向数据中心级，瓶颈转向周边一切 — AccBalanced · 2026-09-07