2B 小模型全跑在浏览器里:HF Space 实现免部署 Coding Agent

karminski3 · x · 2026-09-15

一个 Hugging Face Space 项目 MiniCPM5-2B-WebGPU-Pi 把 Coding Agent 整个搬进了浏览器:用 Pi 框架包住 Agent,驱动模型是 MiniCPM5-2B 的 4bit ONNX 版本(不到 2G),从框架到推理全部在浏览器本地运行,打开网页即得一个带虚拟终端、支持文件编辑和 toolcall 的完整 Agent,不需要 Docker、Node 或 API Key。

作者实测在 3080Ti 上能跑到约 25 tps,并发现 MiniCPM5-2B 的 toolcall 稳定性不错。他还提出两个脑洞:

作者表示有兴趣做一期端侧小模型跑 Agent 的横评。

所属事件:MiniCPM5-2B 借 WebGPU 在浏览器跑通编程智能体(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →