Rust+Vulkan 推理后端跨厂商适配:按 CPU 指令集而非 GPU 厂商选内核
PhysicsDisastrous462 · reddit · 2026-10-08
(同内容重复帖)作者为其纯 Rust + Vulkan Transformer 后端修复可移植性 bug:为 Intel Gen9 调优的 reduction 形状在 AMD 机器上产生 1 ulp 偏差并被梯度路径放大,导致六个 PEFT fixture 失败。根因是 ATen 按主机指令集分派向量化内核,修复后这两个 reduction 改按 host CPU 能力分派,Intel 与 AMD 双机 32/32 全绿,2e-7 门槛未放宽。详见前一条同内容帖子。
所属事件:Rust+Vulkan 推理后端修复跨厂商可移植性 bug(2 条相关)→
「Infra」频道最新
- 不花现金:用 opencode 积分换 GB300 算力额度 — const_reborn · 2026-10-08
- AI-SQL 太贵怎么办:Berkeley 团队详解用查询计划削减百万级 LLM 调用 — HamelHusain · 2026-10-08
- Together 登顶 OpenRouter 最大的 provider,吞吐量第一 — NVIDIAAI · 2026-10-08
- umbrelOS 2.0 本地 AI 两步搞定:自动识别 GPU 秒级部署 — JosephJacks_ · 2026-10-08
- Google AI 基建掌门人:每瓦 goodput 是北极星指标 — samiramanabi · 2026-10-08
- 10 个降 AI Agent 账单的 GitHub 开源仓库,附星数与用法 — victor_explore · 2026-10-08