仅14MB！Cactus项目实现手机与可穿戴设备本地跑大模型
cactus-compute · github · 2026-08-12
开源项目 needle (由 cactus-compute 开发) 提供了一种专为微型设备设计的基础模型方案。
该项目的模型体积被极致压缩至仅 14MB，使其能够直接在智能手机、可穿戴设备、智能家居甚至机器人等算力与内存受限的终端上运行，进一步推动了端侧 AI 的普及与落地。
所属事件:Cactus发布14MB超微型端侧模型Needle 2(3 条相关)→
「Infra」频道最新
- ComfyUI 渲染短视频占满 24G 显存，长视频反而触发显存优化 — NetworkSpecial3268 · 2026-08-12
- 英伟达与贝莱德算力证券化遭批：5000 亿美元的非理性狂热 — TiernanRayTech · 2026-08-12
- vLLM Compressor v0.13.0 发布：引入 MoE 专家剪枝与任意位宽量化 — vllm_project · 2026-08-12
- 曝 GB300 算力时租高达 9 美元，NBIS 短期合约价格再创新高 — zephyr_z9 · 2026-08-12
- 无视市场恐慌，AI算力基本面正全面加速 — firstadopter · 2026-08-12
- 台湾 AI 服务器出口单月达 97 亿美元，同比激增 63% — tengyanAI · 2026-08-12