Jetson Nano 跑文本嵌入模型实测：RAG 速度探讨
S_Anv · reddit · 2026-07-30
楼主发帖询问是否有人在 Jetson Nano（2GB/4GB 版本）上运行过文本嵌入模型（例如 microsoft/harrier-oss-v1-0.6b）。其主要目的是为了在本地构建 RAG（检索增强生成）系统，希望能提前了解该配置下的实际推理速度与可行性。
「Infra」频道最新
- 美国电网并网排队需 5-7 年，算力瓶颈或拖累 AGI 预测 — Novel-Lifeguard6491 · 2026-07-30
- 单核实现20倍吞吐量提升：全新S3客户端开源 — mgill25 · 2026-07-30
- 微软机架级燃料电池架构引热议：被指过于激进 — jwt0625 · 2026-07-30
- Hugging Face 严重运维失误：安全报告直指监控失效 — basedjensen · 2026-07-30
- Mac端推理速度飙升80%，开源社区突破性能极限 — gajesh · 2026-07-30
- 旧安卓手机别扔！Sentinel 框架将其改造为局域网 AI 视觉监控节点 — tom_doerr · 2026-07-30