Ornith 35B/3B 激活 MoE 模型实测:本地运行快且准确

多 位 开 发 者 实 测 由 @ornith 发布的 Ornith 35B 参数、仅 3B 激活的 MoE 模型。有用户在本地通过 ollama 运行,任务管理器显示占用约 23.5GB 独显内存;另有博主在 NVIDIA RTX Spark N1X(Blackwell GPU、64GB 内存)上跑出约 78 token/s 的高速度,简单任务测试全部正确。整体反馈显示该模型本地部署速度快、资源占用可控且表现出色。

2026-10-19 ~ 2026-10-19 · 2 条相关