开发者澄清:GPU 计算是确定性的,不定的是执行路径
felipesuch · x · 2026-10-30
针对「GPU 非确定性」的常见说法,开发者指出:只要输入确定,计算结果就是确定的。用户视角下的「非确定」通常来自代码走了哪条 kernel/路径,而这取决于 batch size、GPU SKU 等你控制不了的变量——即确定性(determinism)不等于 batch/shape 不变性(batch/shape invariance)。
所属事件:GPU计算本身是确定性的,元凶是不可控的kernel执行路径(2 条相关)→
「Infra」频道最新
- 量子行业去年风投 49 亿美元仅营收 19 亿,四市场全景指南发布 — antavedissian · 2026-10-30
- 单卡 5090 跑 DeepSeek V4.1:prefill 超 4000 tok/s,解码 7-24 tok/s 可调 — Front_Eagle739 · 2026-10-30
- Cohere 加码加拿大:投资超 40 亿加元,2031 年前新增 1500 岗位 — cohere · 2026-10-30
- River API 支持任意自定义 Loss 训练 LLM:本地写 PyTorch,远端 GPU 零开销执行 — ibab · 2026-10-30
- 无缓存 agent 成本暴涨 260%,缓存折扣两年内从 0 到 95% — arena · 2026-10-30
- LiteLLM 网关漏洞可从 Postgres 窃取上游密钥,网关密钥存放方式遭质疑 — Early-Sir-932 · 2026-10-30