AWS Lambda 现已支持 GPU,可在 Serverless 函数里托管模型
samgoodwin89 · x · 2026-11-21
AWS 宣布 Lambda 函数可通过 EC2 GPU capacity provider 获得加速卡支持,意味着 Serverless 函数首次能直接跑 GPU 推理。开发者 sam-goodwin89 指出这对「负担得起 EC2 GPU」的模型托管场景很有用。
所属事件:AWS Lambda 原生支持 GPU,Alchemy 框架火速适配(2 条相关)→
「Infra」频道最新
- 实测称 AMD ROCm 10.2 让 Qwen3.8-27B 推理吞吐达 2.2 倍 — AnushElangovan · 2026-11-21
- OpenVINO:在 Intel CPU/GPU/NPU 上免 GPU 跑 AI 的开源工具包 — abhishek__AI · 2026-11-21
- 2.7万思考token零回答:谷歌Vertex AI以HTTP 200自动扣费23次空崩溃 — Plenty-Jackfruit-218 · 2026-11-21
- Hy4 Flash 读 100 万 token:Mac Studio 44 分钟,DGX Spark 81 分钟 — AIFlow_ML · 2026-11-21
- local-ai-registry:每块 GPU 一份实测验证过的本地模型运行配方 — LiTianleli · 2026-11-21
- Sous Labs 开源 Songe:用闲置算力在本地微调你自己的模型 — alexcovo_eth · 2026-11-21