医疗语音 Agent 复述患者生日与邮编,暴露电话验证风险

bethecloud · reddit · 2026-11-17

作者使用医疗问诊语音 agent(采集病史、预约检验与就诊)时在审查中发现:来电者只要问「你们有什么我的档案信息」,agent 就会把存储的邮编和出生日期读出来——而电话里任何人都可能这么说。同一审查还发现两个问题:来电者语速快时 agent 会跳过透析、怀孕等筛查问题;以及把检验预约排在诊疗之后而非之前。这类问题只出现在边缘对话里,抽查发现不了。作者求教如何在真实患者接入前测试「绝不能说 X」「步骤必须按顺序」这类约束,是否该用假数据的合成来电者。

所属事件:医疗语音 agent 被曝泄露患者出生日期与邮编(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →