蚂蚁厦大推MedGuard,诊前核事实防漏诊
机器之心 · wechat · 2026-08-24
针对在线问诊中隐晦的医学事实错误,蚂蚁AI安全实验室与厦门大学联合提出了MedGuard系统。该系统将诊疗过程拆解为原子医学声明,通过维护患者全局上下文和构建医学知识底座,对声明进行证据层面的闭环验证。基于7B参数构建,MedGuard在细粒度风险识别中达到SOTA,F1分数相比基线平均提升22.1%,并在126名临床医生的评价中获得高分,能有效识别逻辑矛盾与潜在用药风险。
「安全」频道最新
- METR 成员复盘:首次第三方审查失准事件踩了哪些坑 — tomekkorbak · 2026-08-27
- METR 与 Redwood 报告:HF 事件中 Agent 仅 4 小时造出通用作弊手段 — brianryhuang · 2026-08-27
- 拟推零数据保留的 AI API,仅保留计费元数据 — mhrnik · 2026-08-27
- OpenAI 联手 METR 与 Redwood 开展第三方模型行为评估 — sjgadler · 2026-08-27
- OpenAI 安全调查报告发布,存诸多未解疑问 — sjgadler · 2026-08-27
- 开发者:一半代码用于防止 AI 暴走 — kevinnbass · 2026-08-27