AMD 向 Rust 推理引擎 LexiEngine 新增 Inkling 模型支持
W61k3r · reddit · 2026-11-22
面向 AMD 硬件的 Rust 推理引擎 LexiEngine 宣布已支持 Inkling 模型,作者称当前速度尚可、带宽还有余量。下一版本在 mythos 审计与基准测试完成后将带来大幅性能提升。配套的 LexiSuite T18 测试镜像显示 Inkling-2-Mini 已可通过 Vulkan 在 LexiEngine 上运行。
「Infra」频道最新
- 研究:就地建光储电站是美国多数地区 AI 数据中心最便宜的供电方案 — mattbeane · 2026-11-22
- 9B 模型跑出 59 tok/s:SenseNova-Loop-9B 在 16GB 显卡实测 — AIFlow_ML · 2026-11-22
- 17.6GB 模型跑进 12GB 手机:Inkling 2 Mini 达 3 tok/s — dai_app · 2026-11-22
- 16-32GB 内存能跑的本地模型,2025 年底追平闭源 SOTA 了吗 — AnimalPuzzleheaded71 · 2026-11-22
- NVIDIA 新论文:把推理缓存成 CPU 代码,同类问题便宜 16-291 倍 — rohanpaul_ai · 2026-11-22
- 异步RL的max_staleness=3真能限住陈旧度吗?10个框架实测多数做不到 — 青稞AI · 2026-11-22