SAE 权重编辑让机器人听话,IIIT 海得拉巴论文入选 IJCAI 安全物理 AI 工作坊
ponguru · x · 2026-10-18
IIIT 海得拉巴团队论文《Controlling Robot Behavior at Inference Time: Weights based SAE steering in Vision Language Action models》被 IJCAI Safe Physical AI Workshop 接收,项目源于该校 2026 春季「负责任与安全 AI」课程。
方法分三步:先用 Matryoshka SAE 在 VLA 模型第 31 层 FFN 上训练稀疏潜空间;再把 FFN 向量投影到词表空间,通过 LM head 找到与「task/slow/push/destroy」等概念相关的 SAE 特征;最后在推理时对这些特征做带符号放大,重建被改写的 FFN 权重实现行为转向。
在仿真抓取操作实验中,转向能缩短执行时间并提升任务成功率,提供了一种无需重训即可在推理时刻控制机器人行为的安全干预手段。
「具身」频道最新
- MIT SANDO 无人机规划器:12 次真实飞行全部避开移动障碍 — Olivier__OG · 2026-10-18
- SimInfinity 机器人仿真基准将开源 1 万个真实场景仿真任务 — joemeno · 2026-10-18
- 德语英语双语语音伴侣 Robi：Gemma+Tyger 驱动的开放倾听 demo — realmrfakename · 2026-10-18
- 慕尼黑 Plim 推轮式家政人形机器人，9000 公里外可远程接管 — CyberRobooo · 2026-10-18
- 马斯克：Optimus 与 Cybercab 将构成特斯拉绝大部分价值 — XFreeze · 2026-10-18
- 南洋理工发布具身智能 Affordance 学习综述，系统梳理近 200 篇研究 — jiqizhixin · 2026-10-18