Black Hat 关注企业AI安全
shashib · x · 2026-07-10
作者将参加 Black Hat 相关活动，并表示自己重点关注 AI 进入真实工作场景后的安全问题。文中提到，AI 已经被快速部署到客服、代码和员工日常使用的浏览器工具中，而规则和防护措施往往还跟不上。 他特别强调，自己在与安全公司会面时会问同一个问题：当 AI 系统被诱导做出错误行为时，什么机制能在造成损害前阻止它。
shashib · x · 2026-07-10
作者将参加 Black Hat 相关活动，并表示自己重点关注 AI 进入真实工作场景后的安全问题。文中提到，AI 已经被快速部署到客服、代码和员工日常使用的浏览器工具中，而规则和防护措施往往还跟不上。 他特别强调，自己在与安全公司会面时会问同一个问题：当 AI 系统被诱导做出错误行为时，什么机制能在造成损害前阻止它。