8 美元 ESP32-S3 跑起 2890 万参数离线模型
nikola_mr64990 · x · 2026-07-29
- 有开发者把一个 2890 万参数 的 LLM 跑进了普通 ESP32-S3,整块硬件成本约 8 美元,可完全离线运行,功耗接近一颗 LED。
- 这颗芯片的限制非常苛刻:只有 512 KB 快速 SRAM 和 16 MB Flash。真正的突破是把大型 embedding table 放到 Flash 里并做 memory mapping。
- 运行时每个 token 只需大约 450 字节 的 активe 工作集,因此能把核心计算留在快速 SRAM 中。
- 现成 demo 已经做出一个极简语音控制遥控器,能通过 Bluetooth LE 直接执行诸如“打开 Chrome 并开 20 个新标签页”之类的指令。
所属事件:8美元ESP32-S3微控制器成功运行2890万参数大模型(3 条相关)→
「具身」频道最新
- 特斯拉新 Roadster 冷气推进拆解:SpaceX 储罐+Optimus 阀门 — XFreeze · 2026-10-16
- 博主批 Figure 终结者式演示作秀:人形机器人离实用还远 — FuSheng_0306 · 2026-10-16
- Snap 眼镜+Gemini 4 Argon:拍乐高堆即设计全息拼搭教程 — stspanho · 2026-10-16
- Waymo 官宣进军多伦多,自动驾驶出租再下一城 — ChrisArchitect · 2026-10-16
- 特斯拉 Optimus 年内发布概率升至 12%,飞行 Roadster 发布后跳涨 5% — Polymarket · 2026-10-16
- 卖机器人智能的公司比卖机器人本体还多:Dexmate Vega 成学界通用平台 — lukas_m_ziegler · 2026-10-16