教授公开 548 通攻击 AI 口语考官的录音，做成对抗数据集
ipeirotis · x · 2026-11-13
NYU 教授 ipeirotis 去年将产品管理期末考改为语音 agent 口试（考官用 Foster Provost 本人克隆声音，苏格拉底式提问，偶尔讲 Silicon Valley 风格冷笑话），并把它挂在网上供人试用。10 个月内收到 1,488 通来电：约 330 通无人说话，约半数认真考试，548 通是来测试、捣乱或攻破考官的。
- 这 548 通对抗性通话（共 1,298 次攻击）现已公开：含全部录音，可在网站浏览收听，也可从 Hugging Face 与 Zenodo 下载
- 博文是该数据集的"精华集锦"，逐条附有对应录音的时间戳链接
- 数据帮助团队压力测试考官 agent，为下一版降低脆弱性
对研究 agent 安全/对抗测试的人来说是一份难得的真实攻击语料。
「安全」频道最新
- Western 大学商学院审查 $72 AI 助教：学生已付 $750 还要再掏钱 — joshgans · 2026-11-13
- 缅因州 Gorham 再延 180 天数据中心禁建令,考虑永久禁令 — jonippolito · 2026-11-13
- BrowseSafe++ 发布:开源 agent 安全基准训练获大幅改进 — marktenenholtz · 2026-11-13
- Anthropic 路演视频晒与埃森哲合作,独立审计师角色遭质疑 — DKokotajlo · 2026-11-13
- 两个 NVIDIA 漏洞潜伏 4 年，租 GPU 切片即可拿下整个节点 — SirJerryLion · 2026-11-13
- 哈佛 FraudBench：AI 从建议转向代办，欺诈率从 3% 升至 21.4% — rohanpaul_ai · 2026-11-13