仅14MB！Cactus发布微型设备端智能体模型Needle 2
julianharris · x · 2026-08-11
Cactus 发布了专为微型设备设计的开源智能体模型 Needle 2。该模型仅有 45M 参数，整体被压缩为一个 14MB 的二进制文件，运行时仅需 28MB 内存。
- 性能表现：在工具调用和移动设备使用基准测试中，Needle 2 能够与 FunctionGemma 270M、Apple FM 等前沿小模型竞争，但体积比它们小 5 到 70 倍。
- 运行速度：在树莓派 5 上可达 500 tokens/sec 的解码速度，在 Apple Vision Pro 等设备上可达 1500 tokens/sec，甚至能在 ESP32-S3 等微控制器上运行。
- 技术细节：基于 Simple Attention Network 架构，采用 CQ2-bit 量化技术，并在 140B token 上进行了工具调用和结构化提取训练。
评论者 Julian Harris 测试后表示，虽然受限于参数量其生成质量一般（如情感分类不够精准），但在特定边缘计算场景下极具潜力。
所属事件:Cactus发布超微型Agent模型Needle 2，体积仅14MB(2 条相关)→
「具身」频道最新
- 中国机器人公司化身VC：29家初创完成125笔投资 — FinanceYF5 · 2026-08-11
- Galaxy Z Fold 8上手：轻如护照，单手易用，苹果落后了？ — bilawalsidhu · 2026-08-11
- Mistral 进军机器人：推视觉导航新研究，刷新 R2RCE 评测 SOTA — sivareddyg · 2026-08-11
- 将世界模型折叠进表征：具身控制推理延迟暴降 10 倍 — Weili Zeng · 2026-08-11
- 三星官方详解Galaxy Z Fold2铰链工程秘密 — MarwaEldiwiny · 2026-08-11
- 浙大清华提出 INTACT：机器人无需试错直击目标 — jiqizhixin · 2026-08-11