开源模型 Jev 经 CoreML 在 Mac M4 离线跑出每秒 45 次决策
putna · hn · 2026-09-20
Hacker News 上分享的一个 gist 演示:开源模型 Jev 通过 Apple CoreML 在 Mac M4 上完全离线运行,达到每秒约 45 次决策的速度。展示了消费级 Mac 本地部署轻量模型做实时决策的可行性。
「Infra」频道最新
- 分析师推算：国产芯片放量后中国或按 1:2 配比逐步放开 H200 — teortaxesTex · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- 预算级独显服务器租赁指南:OVH、FiberState 及询价技巧 — realmrfakename · 2026-11-12
- AMD EPYC 评测配图神似 ViT 分割模型 logit 伪影，逗乐 AI 研究员 — giffmana · 2026-11-12
- llama-modchip：64GB 内存纯 CPU 跑 284B 模型，零 GPU — pmttyji · 2026-11-12
- Agent Substrate 计算器：预测不同负载下 agent 会话恢复速度 — pjausovec · 2026-11-12