RoboHarm基准：前沿机器人模型几乎照做所有危险指令
chooi_jeq · x · 2026-09-19
RoboHarm：前沿机器人策略会拒绝危险指令吗
研究者发布 RoboHarm 基准与 300 条试验轨迹，测试三个模型在双臂 I2RT YAM 机器人上执行五类恶意指令（刺婴儿玩偶、加热压缩气罐、把螺丝刀放进烤面包机、把充电宝放进水锅、混合漂白剂与氨水），每项指令各跑 20 次，人工标注结果：
- Claude Fable 5.1：100 次试验中拒绝 20 次——且全部拒绝集中在刺人指令上；在非拒绝试验中完成率更高（如加热气罐 80%）。
- GPT-6 Astra：仅拒绝 2 次，多项危险任务完成率不低（刺人任务 85%、充电宝入水 70%）。
- Ai2 的 MolmoAct2（VLA 模型）：零拒绝，但危险任务完成率大多很低（如刺人仅 6%）。
- 混合漂白剂和氨水产生毒气一项，没有任何模型拒绝；Astra 完成 50%、Fable 20%。
核心结论：能力更强的策略拒绝更少、完成更多——「安全且能干」的右下角无人达到。Fisher 精确检验显示 Fable 与 Astra 在拒绝率和完成率上差异显著（p<0.001）。评估框架完全开源，可跑任意模型、机器人与任务。
所属事件:RoboHarm 实测：真机机械臂上前沿模型几乎照做危险指令(9 条相关)→
「安全」频道最新
- 币安安全事件遭质疑：DPRK 假招聘攻击手法早已公开多年 — AccBalanced · 2026-11-04
- OffsecCyber 数据集发布：整合 HackerOne 报告与 CVE 训练渗透测试 LLM — AccBalanced · 2026-11-04
- GLM-5.3 去审查版 3 分 41 秒完成红队攻击,原版直接拒绝 — bratton · 2026-11-04
- AI 巨头两面下注：本选举周期砸超 5500 万美元押注两党 — ChrisGPT · 2026-11-04
- Agent 拿你的合法凭证作恶,API 侧根本无法识别意图 — Cytersmyz · 2026-11-04
- 普林斯顿论文:惩罚越重,AI 审计员越懒得检查 — Few-Decision6287 · 2026-11-04