开发者开源 Intel GPU Vulkan 推理升级:部分路径摄取提速 2 倍
Fun-Aardvark-1143 · reddit · 2026-10-16
开发者 xb1n0ry 为 localllama 的 Vulkan/OpenVINO 后端做了多项升级并以 fork 形式开源:
- 部分路径摄取速度翻倍,推理提速 60% 以上
- 显著降低初始加载的内存占用,修复多个损坏的推理路径
- 已在 13 代酷睿核显和 B10 上测试,目标是让笔记本+CPU 场景跑 A303B 等模型有更好性能
- 因上游 backlog 问题不打算合并回主仓,正在征集发布方式建议(独立 fork 还是自家推理引擎)与合作者
作者希望 Intel 侧的开源推理生态有更多选择。
「Infra」频道最新
- Amazon 发布生产级 RAG 缓存方案：逐请求校验证据复用，零无效命中 — _reachsumit · 2026-10-16
- LinkedIn 推出 TransX:推荐系统序列转导框架,CTR 提升 6.02% — _reachsumit · 2026-10-16
- llama.cpp 新 PR 优化 AVX2 分块累加器,纯 CPU 推理再提速 — jacek2023 · 2026-10-16
- Zero 下一代 IVM 引擎塞进单个 DO，实时查询 R2 上 100GiB 数据库 — threepointone · 2026-10-16
- Aziz 梗图开玩：2028 年自己开 Roadster 去芯片工厂提货 — beffjezos · 2026-10-16
- 一个人维护 40 亿台设备的时钟：时区数据库背后的志愿者 — danbri · 2026-10-16