RoboHarm 基准测试:前沿机器人策略会拒绝危险指令吗
msadowski · hn · 2026-09-22
RoboHarm 是一个评测前沿机器人策略安全性的基准(robocurve.org/roboharm),核心问题直指要害:当用户提出不安全指令时,最先进的机器人模型会不会照做?
该项目系统测试机器人策略面对危险请求时的拒绝能力,把 LLM 领域成熟的安全对齐评测思路带到具身智能领域。HN 讨论指出,机器人端的安全护栏建设远落后于语言模型,这类基准为衡量各家机器人策略的安全底线提供了工具。
「安全」频道最新
- 欧洲智能冰箱控制器遭 0-day 攻击，数千万欧元食物报废甚至起火 — matthew_d_green · 2026-11-12
- LlamaIndex 让 AI Agent 渗透测试自家 LlamaParse，四天暴露四条经验 — llama_index · 2026-11-12
- HoneyBench 实测:2026 年前沿模型全部会作弊,作弊率 12% 到 86% — ChowdhuryNeil · 2026-11-12
- 用亚历山大图书馆禁运纸草类比芯片战:限制出口挡不住知识扩散 — iamtrask · 2026-11-12
- 5 个前沿模型在交友 App 实测 6 天:1277 场对话仅 8 人识破是 AI — dair_ai · 2026-11-12
- Ploid 深度研究：从视频一帧挖出完整社交档案，连微信都能找到 — thetripathi58 · 2026-11-12