网友提议用「每瓦每秒 token 数」作为模型能效新指标
0xF2 · x · 2026-10-17
0xF2 在与 rickasaurus 的讨论中提出,与其泛谈智能单位,不如用「每瓦输出的 token/秒数」来衡量模型效率——数值越高越好,也更容易向普通人解释。对方反驳:更笨的模型做同样的事往往要花多得多的 token,单看 token 数并不公平。作者随后补充认为理想度量应兼顾输入与输出,提出「cogitator」概念:输出 1 token/秒所需瓦数。这是围绕如何定义 AI 能效单位的轻松讨论,尚无结论。
「Infra」频道最新
- 昇腾 950 超节点训 DeepSeek V4:2 机架跑 273K tok/s — teortaxesTex · 2026-10-17
- 链上 AI 推理量激增:Venice 日 tokens 破 5000 亿,Bittensor 将扩容矿工 — 0xJeff · 2026-10-17
- 传 Anthropic 向 Blackstone 求融资 承诺回报超 10% — Polymarket · 2026-10-17
- Nvidia/Lumentum DFB 激光器阵列实物曝光,附 Claude 生成渲染图 — jwt0625 · 2026-10-17
- kohya 宣布 sd-scripts 与 Musubi Tuner 首发支持 RTX Spark 本地 LoRA 训练 — bdsqlsz · 2026-10-17
- NVIDIA Nemotron 74B 量化版实测:16GB 显存跑出 169 tok/s — yehyakar · 2026-10-17