蚂蚁厦大推MedGuard,诊前核事实防漏诊
机器之心 · wechat · 2026-08-24
针对在线问诊中隐晦的医学事实错误,蚂蚁AI安全实验室与厦门大学联合提出了MedGuard系统。该系统将诊疗过程拆解为原子医学声明,通过维护患者全局上下文和构建医学知识底座,对声明进行证据层面的闭环验证。基于7B参数构建,MedGuard在细粒度风险识别中达到SOTA,F1分数相比基线平均提升22.1%,并在126名临床医生的评价中获得高分,能有效识别逻辑矛盾与潜在用药风险。
「安全」频道最新
- Cisco 防火墙管理台漏洞 CVE-2026-20079 可无认证夺取 root 权限 — victorialslocum · 2026-10-15
- 404 Media 实测:ChatGPT 广告可按手机号邮箱和提示词定向投放 — 404 Media · 2026-10-15
- Anthropic 系统提示词新措辞:认真对待 Claude 表达的不同意见 — Hesamation · 2026-10-15
- Stolen Thoughts 论文:两次 API 调用窃取前沿模型隐藏思维链 — maksym_andr · 2026-10-15
- 传美国财政部施压各国采用「超级智能」而非普通 AI — Polymarket · 2026-10-15
- ServiceNow 推出 AI Passport:给每个 AI 智能体发可验证身份 — azavery · 2026-10-15