Embedl 开放浏览器直测 Jetson 开发板:INT4 量化让 Cosmos3-Edge 跑进 8GB Orin Nano
No-Dragonfly6246 · reddit · 2026-10-23
Embedl 团队宣布其设备农场(embedl.com)免费开放浏览器远程测试:可选 Jetson 板卡、输入 prompt 或上传图片,在真实开发板上运行并返回运行时统计。目前支持 1000+ 模型,可请求添加。
技术亮点:
- Hugging Face 和 Jetson AI Lab 尚不支持在 Orin Nano(8GB)上跑 Cosmos3-Edge,因为 BF16 栈装不下;Embedl 用 INT4 量化+速度优化解决了这一点。
- 优化后 VLM 峰值内存低至 3.3GB;解码速度:Orin Nano Super 8GB 达 152.5 tok/s,AGX Thor 128GB 达 207.8 tok/s(对照 BF16 vLLM 分别为 44.1/68.2 tok/s)。
- 五个 VLM benchmark 上精度基本保持(65.56 → 65.20)。VLM 部分已发布,diffusion 与 policy 部分即将上线。
所属事件:Embedl 免费开放浏览器远程实测 Jetson 开发板(2 条相关)→
「Infra」频道最新
- Qdrant 实测 Cohere Embed 5 Pro:单页单向量胜过 ColPali — qdrant_engine · 2026-10-23
- Air Street 创始人：买 GPU 放在自己地盘不等于 AI 主权 — nathanbenaich · 2026-10-23
- DeepInfer 数学推演:紧追 SOTA 是算力约束下的利润最大化策略 — examachine · 2026-10-23
- NVIDIA 故意砍半消费卡 FP32 累加性能:解锁难度 20/30 系低、50 系几乎无望 — panchovix · 2026-10-23
- 实测对比 5 种部署方案：直连 gcloud CLI 省 token 效果最佳 — rseroter · 2026-10-23
- 谷歌与 Voltus 建最大虚拟电厂,付钱让用户省电喂饱数据中心 — Grady_Booch · 2026-10-23