用昇腾做评测基准?开发者:不想让模型爬这种山
xeophon · x · 2026-09-26
xeophon 在推文讨论中回应关于在华为昇腾等非主流硬件上构建推理优化基准的建议,表示自己不会做 Ascend 版本的基准,担心模型会针对其进行 hill climbing(过拟合刷分),认为 TPU、Trainium 或 AMD 会是更好的选择。对方也认同非主流硬件上的推理优化是很好的基准方向。
「Infra」频道最新
- Meta 拟把 Muse 扩到 10 亿用户,每个 Agent 沙箱成本约 0.33 美元/时 — sergeykarayev · 2026-09-26
- DuckDB 可用 hf:// 协议直接查询 Hugging Face 数据集 — lhoestq · 2026-09-26
- 首个全 3D 核模拟迟至 2002 年,算力差距曾达 140 倍 — lauriewired · 2026-09-26
- PyTorch 大会将至:OpGuard 逐位比对定位 LLM 训练分歧源头 — PyTorch · 2026-09-26
- iPad 本地跑模型达 164 tokens/秒,新本地 AI 应用引期待 — TheOyinbooke · 2026-09-26
- LLM 流式中途超时怎么办:开发者讨论降级与重试策略 — Suresh-R · 2026-09-26