真机实测六大前沿模型驾驶机械臂全踩雷,LEASH 护栏实现四模型零伤害

新智元 · wechat · 2026-11-17

西浦、昆杜、NUS 等多校联合发布机器人安全基准 RoboRisk 与安全护栏 LEASH(arXiv:2611.14115),六个前沿大模型控制真机机械臂时全部出现危险行为。

RoboRisk 基准:92 个仿真任务 + 13 个真机任务,覆盖五类风险(有害目标、物理危险、环境破坏、注入攻击、隐私/安全违规),每项任务在仿真或真机闭环执行。此前基准最多只覆盖其中两类。

评测结果:

LEASH 护栏:模型无关、免重训的安全层,由任务门、动作门、提交门三道门+共享安全策略构成,每次审查基于相机画面而非命令文本,用快速决策模型(默认 Jev)打分放行。效果:GPT-6 Astra 仿真伤害率 11.23%→0%,真机四个模型全部零伤害(GPT-6.1 Sol 从 38.46% 降为 0),端到端耗时仅增 1.66%,安全门成本占总成本 0.66%。局限:对不遵循指令的弱模型(GPT-6 Luna、Grok 4.7)提升有限。任务目录、代码与全部仿真结果已开源。

原文链接 →

「具身」频道最新

更多「具身」频道 AI 资讯 →