Mojo/MAX 上手手机本地推理,4 天比肩 llama.cpp
Cane_P · reddit · 2026-10-28
随着 Mojo 和 MAX 正式发布,开发者开始将其用于本地推理任务。一位开发者用 4 天时间做出了与 llama.cpp Vulkan 后端持平甚至更好的手机端推理结果,并公开了进展博客。
「Infra」频道最新
- Agent 自建推理引擎:AMD MI350X 跑 GLM 5.3 比 B200 快 37% — yisongyue · 2026-10-28
- Anthropic S-1 文件承认数据中心依赖天然气,成本与气候风险双双上升 — TobyWalsh · 2026-10-28
- 算账:Kimi 3.1 在 Vera Rubin 上每百万 token 成本仅 0.025 美分 — bookwormengr · 2026-10-28
- Hyperbolic 获 3000 万美元 A1 轮融资,主打碎片化 GPU 算力交易 — qinzytech · 2026-10-28
- Tailscale 披露 SSH 事件调查与修复进展 — figmert · 2026-10-28
- Reflection AI 13亿沙盒 RL 训练,峰值动用 88 万 vCPU — zacharynado · 2026-10-28