Cactus 发布 Needle 3 端侧模型，树莓派跑出 4k tokens/s

Cactus Compute 发布开源自动化基础模型 Needle 3，参数规模 29–121M，专为端侧工具调用与结构化抽取设计，不做聊天，无法服务的请求返回空列表而非猜测。整个模型为单个 8–29MB 二进制文件，面向手机、可穿戴、机器人、智能家居、汽车和微控制器，在树莓派上可达 4k tokens/s，其 121M 版本函数调用得分 86，逼平 DeepSeek V4 Flash。

2026-09-18 ~ 2026-09-18 · 2 条相关