8美元ESP32-S3微控制器成功运行2890万参数大模型

开发者成功在成本仅8美元的ESP32-S3微控制器上运行了2890万参数的大语言模型，完全离线，推理速度达9.5 tokens/秒，功耗接近一颗LED。该项目名为esp32-ai，开源发布，展示了端侧AI推理的潜力，使低成本硬件也能运行复杂模型。

2026-07-29 ~ 2026-07-30 · 3 条相关

• 8 美元 ESP32-S3 跑起 2890 万参数离线模型 — nikola_mr64990 · 2026-07-29
• 8美元微控制器跑开源大模型，端侧推理速度达 9.5 tokens/秒 — Saboo_Shubham_ · 2026-07-30
• 8美元微控制器跑出28.9M参数大模型，速度达9 tokens/s — Saboo_Shubham_ · 2026-07-30