单张 GPU 跑医院 AI：A100 两分钟读完腹部 CT,H200 同时管 12 名病人
MaziyarPanahi · x · 2026-11-03
开发者分享其开源模型医疗 demo 的推理规模数据：肿瘤检测模型在单张 A100 上读完整腹部 CT 约 2 分钟；疟疾 agent 在单张 H200 上可同时服务 12 名患者。他由此向医院 IT 从业者提问：如果医院只有这一张 GPU，应该放在机房、放射科还是已有的云端？展示了开源模型在医疗场景下单卡即可支撑实用负载的现实可行性，并引出本地部署位置选择的实操讨论。
所属事件:开源医疗 AI 演示单卡可跑，医院部署引热议(2 条相关)→
「Infra」频道最新
- RidgeFill：免训练跳算上层预填充，TTFT 提速至 1.6 倍、64K 请求 82.6s→47.5s — Public_Umpire_1099 · 2026-11-03
- 斯坦福教授论证太空算力散热可行：黑球辐射平衡只需解决导热 — shaunmmaguire · 2026-11-03
- AI 债务交互地图：25 方 58 项义务，公众同时是赌徒、债主与房东 — W1RELESS · 2026-11-03
- 开源推理引擎 TensorFold 发布 1.0：RTX PRO 6000 上跑出 874 tok/s — Jasonio · 2026-11-03
- 开发者把存储桶从 GCP 迁到 Cloudflare,每月省 700 美元 — aniketmaurya · 2026-11-03
- Lattice FPGA 营收创纪录增 118%：AI 数据中心需求成主引擎 — BenBajarin · 2026-11-03