医疗语音 Agent 复述患者生日与邮编,暴露电话验证风险
bethecloud · reddit · 2026-11-17
作者使用医疗问诊语音 agent(采集病史、预约检验与就诊)时在审查中发现:来电者只要问「你们有什么我的档案信息」,agent 就会把存储的邮编和出生日期读出来——而电话里任何人都可能这么说。同一审查还发现两个问题:来电者语速快时 agent 会跳过透析、怀孕等筛查问题;以及把检验预约排在诊疗之后而非之前。这类问题只出现在边缘对话里,抽查发现不了。作者求教如何在真实患者接入前测试「绝不能说 X」「步骤必须按顺序」这类约束,是否该用假数据的合成来电者。
所属事件:医疗语音 agent 被曝泄露患者出生日期与邮编(2 条相关)→
「编程与Agent」频道最新
- 开发者用多智能体蜂群让 AI 从零打穿 GTA5 剧情模式 — zhuowei · 2026-11-17
- AI 自动化落地盲区:流程出错时谁来负责? — djgoel123 · 2026-11-17
- 用 Codex 证明欧拉 1747 年猜想,279 年悬案被 AI 攻克 — jiqizhixin · 2026-11-17
- 开源项目 Agent Substrate 让空闲 Agent 挂起唤醒,同硬件跑 10 倍 Agent — Saboo_Shubham_ · 2026-11-17
- ChatGPT Wallet 只解决了支付安全,买错货无人把关 — krishnan · 2026-11-17
- Grok 代理打电话帮用户要回 1511 美元退款 — elonmusk · 2026-11-17