新推理引擎 Atlas 亮相,实测称在 Strix Halo 上超越 llama.cpp
einthecorgi2 · reddit · 2026-09-17
Reddit 用户实测新开源推理引擎 Atlas,称表现与宣传一致,并提供 Quick Start 入门文档。值得注意的是其对 AMD Strix Halo 平台的支持,作者认为在该平台上跑此模型的速度超过了 llama.cpp。对关注本地/端侧部署的用户值得尝试。
「Infra」频道最新
- 预测:18个月内Kimi K3级智能将跑在单张RTX 5090上 — TheZachMueller · 2026-09-17
- 有用户称愿为 AI 订阅月付 1000 美元，但定价过高会推向本地部署 — draginol · 2026-09-17
- 腾讯开源 FlexKV 分布式 KV 缓存:TTFT 最高降 70%,吞吐提升 16% — Roger_M_Taylor · 2026-09-17
- NVIDIA 上架 DeepSeek-V4.1-Flash NVFP4 量化版,MIT 协议开源 — TheZachMueller · 2026-09-17
- Bittensor 挖矿优化被 vLLM 收编,Qwen3 吞吐提升约 4% — const_reborn · 2026-09-17
- vLLM 出现 DiffusionGemma 结构化生成 PR,单机 DGX Spark 延迟亮眼 — generativist · 2026-09-17