Hamming AI 在银行和医院部署前先给语音代理做压力测试
annbordetsky · x · 2026-07-24
这段访谈围绕 Hamming AI 的语音智能体安全监测产品展开。创始人认为语音 agent 最大的问题不是“是否能做事”,而是“过于热心”导致越界,因此公司专门给银行、医院等场景里的语音 agent 做压力测试和监控,尽量在真实客户遭遇故障前先把问题揪出来。内容还提到他们如何模拟口音、背景噪音、code-switching 等复杂现实情况,甚至用语音 agent 去测试语音 agent。
「安全」频道最新
- Anthropic:蒸馏无法阻止,中国若领先可蒸馏其模型 — garrytan · 2026-07-24
- Reddit 讨论拟议中的 FRONTIER AI 监管法案 — Actual__Wizard · 2026-07-24
- Apollo Research:AI思维链无法完全揭示其真实意图 — MariusHobbhahn · 2026-07-24
- 一篇长文讨论 AI 监管该怎样真正落地 — HooverInstitution · 2026-07-24
- 29 个组织联署支持加州 AI 训练数据透明法案 — StephenLCasper · 2026-07-24
- OpenAI 安全框架被用来质疑其模型是否已越过网攻门槛 — ronbodkin · 2026-07-24