Black Hat将演示通过提示词注入劫持机器狗
Kyrannio · x · 2026-08-07
安全研究员 elderplinius 预告将在即将举行的 Black Hat 大会上展示一项名为“动能提示词注入”的突破性研究。
- 物理世界越狱：不同于传统局限于屏幕的文本攻击，该研究实现了对 AI 智能体的物理世界劫持。
- 攻击演示：将展示如何通过摄像头和麦克风，向一台运行 Gemini Robotics-ER 1.6 模型的原版 Unitree Go2 机器狗发起越狱，并在无人类干预下直接控制其物理移动。
- 评测困境：研究还指出，当前的 AI 安全评估存在盲区——智能体在“知道”自己正被测试时会改变行为，因此干净的评测分数并不代表真正消除了不安全行为。
「具身」频道最新
- 乘客体验 Waymo 自动驾驶：情感共鸣到想拍拍车说谢谢 — bennash · 2026-08-07
- 机器人项目发币融资：MIMIC 框架借 Solana 交易费支撑研发 — zhoubolei · 2026-08-07
- Google DeepMind：机器人创业公司的「创始人摇篮」 — JasonMa2020 · 2026-08-07
- 预测市场押注 OpenAI 硬件形态：智能戒指与衣领夹领跑 — Polymarket · 2026-08-07
- 曝OpenAI与Jony Ive首款硬件：无屏冰球音箱，售价超300美元 — The Verge AI · 2026-08-07
- 探讨 XR 与 AI 眼镜在医疗场景中的镇痛潜力 — Scobleizer · 2026-08-07