开发者展示在 Dell 独立迷你主机上本地运行 Hermes 模型
burhop · x · 2026-08-02
一位开发者分享了其在 Dell 的独立小型设备上本地运行 Hermes 模型的体验。他表示,这种方案非常酷,因为它提供了一个封装小巧的独立 AI,可以随时插到车间里的任何工程硬件上进行本地推理,无需依赖云端。
此前,Nous Research 团队受邀参观 NVIDIA 总部,CEO 黄仁勋还亲自为团队成员的 NVIDIA Spark 设备签名。
「Infra」频道最新
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16
- Valtz 新版支持 FLUX.3,Mac 本地生图最高 4K 分辨率 — TgoAI · 2026-10-16
- 百度开源 FlashMask:长上下文训练最高比 FlashAttention-4 快 1.55 倍 — BaiduResearch · 2026-10-16
- 独立开发者 GYRO 量化实测:体积更小却达 ISTA Q3 水平 — PlasticRevenue4601 · 2026-10-16
- RL 训练系统已成前沿建模最复杂的基建难题,_best_方案是商业机密 — brianryhuang · 2026-10-16