研究者演示 SQL Copilot 提权风险:只读假设在 prompt 注入下崩塌
wunderwuzzi23 · x · 2026-09-18
安全研究员 Johann Rehberger 在微软 BlueHat Asia 演讲中探讨 AI 助手继承用户权限的风险:当 SQL Server Management Studio 的 SQL Copilot 连接高权限账号时,会成为强力攻击目标。他通过演示展示了「只读」假设如何失效、prompt injection 如何影响 AI 行为,强调安全边界与模型指令同等重要。演讲深入 AI 安全、数据库权限与敏感环境授权带来的意外风险。
「安全」频道最新
- 对齐争论:训练模型掩饰内部状态是个危险的主意 — PeterBowdenLive · 2026-09-18
- Transformer 编辑做客 LBC 电台,直播回答听众 AI 提问 — ShakeelHashim · 2026-09-18
- Hard Fork 播客:AI 安全为何突然成为主流议题 — Hard Fork (NYT) · 2026-09-18
- 8 bit/小时的泄露速度:1T 模型 FP8 外传需 1.18 亿年 — AlpinDale · 2026-09-18
- 用波音类比批AI实验室:别再喊慢下来,直接做安全再说 — andrejusb · 2026-09-18
- 一张 HEIF 图片攻入 OpenAI:论坛漏洞直通内部 GitHub — jedisct1 · 2026-09-18