多节点 LLM 推理暴露 15/17 未声明端口，Ray 控制面裸奔无鉴权
No-Peanut-6988 · reddit · 2026-09-29
测试团队在 AWS EKS 上基准测试 Ray + KubeRay + vLLM 多节点分布式推理集群的网络暴露面：
- 17 个活跃监听 socket 中 15 个从未出现在声明的 containerPort 清单里。
- 无关 namespace 的邻居容器可通过无鉴权明文 gRPC连接 Ray GCS（6379）和 raylet worker RPC（10002–10006）。
- Trivy、Checkov、Kubescape、kube-linter 四款默认扫描器全部漏掉这一运行时暴露，因为它们不检查 RayCluster 自定义资源。
- 单 GPU vLLM 部署暴露 26 条未配置鉴权的 API 路由。
缓解方案及代价：ingress 默认拒绝 NetworkPolicy 可在稳态下阻断所有邻居 pod 访问 Ray 控制面且无可测延迟增加；用 WireGuard（Cilium 链接 AWS VPC CNI）加密节点间 GPU 流量可承载负载，但带来 3.4%–6.5% 吞吐下降和 3.2%–8.4% 延迟上升。附完整报告与加固指南。
「Infra」频道最新
- 开源项目 Celesto：给 AI Agent 一台 500 毫秒启动的专属电脑 — aniketmaurya · 2026-09-29
- 算账：Meta Muse 即便激进优化，每用户年成本也达 50 美元 — bookwormengr · 2026-09-29
- 手机+三台 Mac+两台 PC 拼出 60GB 内存,跑通 gpt-oss-120b — ANR2ME · 2026-09-29
- BioNeMo 团队优化稀疏模型训练：Mixtral 吞吐提升 2.21 倍 — AllThingsApx · 2026-09-29
- DeepSeek 弹性计算团队大量招人，发布大规模 Agent 训练沙盒基建分享 — teortaxesTex · 2026-09-29
- 开发者吐槽第三方推理服务乱象：Gemini 一年涨 10 倍 — julianharris · 2026-09-29