61 秒读完 71 年 13 万 token 病历,推理却花了 11 分钟
maniac518 · reddit · 2026-11-19
开发者 SudoingX 用 AntLing 的 Ling-3.0-flash-Sante 医疗模型做了一次极端长上下文实测:一份 1950 年出生的合成患者完整病历——71 年间 334 次就诊,共 130,993 token 单次输入,要求列出当前用药、过敏史和在诊疾病及日期。
- 硬件:两台 DGX Spark,官方 FP8 权重,256GB 统一内存,读取全部病历仅 61 秒(约 2,148 tok/s)
- 推理:模型思考了 30,865 token,约 11 分钟——推理时间约为读取的 11 倍
- 得分:过敏 7/7 全对、在诊疾病 8/10、牙科代码 2/7、当前用药 2/5;但所有已停用项目均未误列入当前清单,还识别出一条 1954 年开始、持续服用 67 年的药物
作者强调这是研究模型而非医疗设备,用药清单必须人工核对。长病历的难点在于大量「开始-停用-重启」条目,「当前」与否取决于每个日期是否判断正确。
所属事件:医疗模型实测:13 万 token 病历 61 秒读完,推理却花 11 分钟(2 条相关)→
「Infra」频道最新
- 本地 LLM 最难抓的失败:看起来像成功的失败 — FulcraDynamics · 2026-11-19
- 美光高管确认:3D DRAM 将于 2028/2029 年问世 — firstadopter · 2026-11-19
- AI 基础设施的两条能源时钟:灵活性买时间,容量定规模 — ingliguori · 2026-11-19
- NVIDIA 联手 Voxel51、Encord 直播演示 Cosmos Data Factory 生成训练数据 — NVIDIAAI · 2026-11-19
- 分析师:存储产品已从大宗商品转向价值定价,高利润率可持续 — BenBajarin · 2026-11-19
- 微软开源 2.3B 端侧模型 Aion,明年 1 月起内置 Windows — jacek2023 · 2026-11-19