OpenVINO:在 Intel CPU/GPU/NPU 上免 GPU 跑 AI 的开源工具包
abhishek__AI · x · 2026-11-21
一条介绍 OpenVINO 的科普推:这个 100% 开源(GitHub 约 11.8k star)的推理优化工具包支持 Intel 的 CPU、GPU、NPU 乃至 FPGA,兼容 PyTorch、TensorFlow、ONNX 等框架,覆盖 LLM、计算机视觉与语音 AI 的部署加速,让模型不再绑定昂贵的独立 GPU。适合想在自己 Intel 硬件上做本地推理部署的开发者。
「Infra」频道最新
- 实测称 AMD ROCm 10.2 让 Qwen3.8-27B 推理吞吐达 2.2 倍 — AnushElangovan · 2026-11-21
- AWS Lambda 现已支持 GPU,可在 Serverless 函数里托管模型 — samgoodwin89 · 2026-11-21
- 2.7万思考token零回答:谷歌Vertex AI以HTTP 200自动扣费23次空崩溃 — Plenty-Jackfruit-218 · 2026-11-21
- Hy4 Flash 读 100 万 token:Mac Studio 44 分钟,DGX Spark 81 分钟 — AIFlow_ML · 2026-11-21
- local-ai-registry:每块 GPU 一份实测验证过的本地模型运行配方 — LiTianleli · 2026-11-21
- Sous Labs 开源 Songe:用闲置算力在本地微调你自己的模型 — alexcovo_eth · 2026-11-21