8 美元 ESP32-S3 竟能离线跑 2890 万参数模型
brianrkelly · x · 2026-07-24
- 开发者把一个 2890 万参数 的语言模型压进了大约 8 美元 的 ESP32-S3 微控制器。
- 这个模型可以完全离线运行，生成短故事的速度约 9.5 tokens/s，功耗大致只相当于一颗小 LED。
- 帖子把它描述为“本地 AI”边界的大幅推进：原本只在更强设备上能做的事，现在被压缩到极小硬件上。
- 转发者还提出了一个设想：让很多这样的设备组成网络，各自负责特定领域，再把结果汇总给主控设备。
所属事件:开发者让8美元ESP32-S3离线运行大模型(2 条相关)→
「Infra」频道最新
- AI 治理话题降温，自动化和数据底座仍在升温 — YvesMulkers · 2026-07-24
- 8 美元 ESP32-S3 已能离线跑 2890 万参数模型 — brianrkelly · 2026-07-24
- NVIDIA 发布面向检索的多语言 1B embedding 模型 — tomaarsen · 2026-07-24
- AI ETF 贴文称市场已提前定价 Qualcomm 与 AMD 等事件 — alejandroll10 · 2026-07-24
- Lidl 开始引入 Wero，挑战 Visa 和 Mastercard — MarvinTBaumann · 2026-07-24
- RTX 5080 16GB 显存能跑 AI-Toolkit 训练 Krea 2 LoRA 吗 — NexusFred · 2026-07-24