高通预览端侧 GGUF 运行工具GenieX
carrycooldude · x · 2026-07-20
Qualcomm 公开了 **GenieX** 的开发者预览版，核心卖点是**在设备端运行 GGUF 模型**。 从配图看，它接入 **Qualcomm AI Hub Models** 和 **Community GGUF Models**，并强调可在 **NPU/GPU/CPU** 等不同硬件上运行，覆盖手机、电脑、穿戴和车载等设备场景。
「Infra」频道最新
- 路由故障让 Claude Code 智能体 3.5 小时烧掉 3020 万 token — RileyRalmuto · 2026-07-21
- 单集群可扩至50万卡，华为Atlas 950 SuperPoD算力架构曝光 — pstAsiatech · 2026-07-21
- 韩国七月前 20 天出口增逾五成，AI 芯片带动 — Polymarket · 2026-07-21
- Bittensor 阵营称去中心化训练可抵消数倍算力差距 — markjeffrey · 2026-07-21
- Cloudflare 验证页开始识别 AI 代理而不只是人类 — shashib · 2026-07-21
- 多节点 vLLM 经过拓扑调优，单用户吞吐升至 47 tok/s — TheZachMueller · 2026-07-21