Your Robot’s Safety Functions Already Work. What If the Input Lies?

内容摘要

• VicOne LAB R7测试显示，机器人可受不可信输入误导：海报文字被当作指令并改变机器狗移动轨迹，听觉上人耳无法察觉的音频也改变了医院服务机器人模拟行为。 • 既有研究还表明，视觉对抗补丁会降低视觉—语言—动作模型的任务成功率，并可能使模型忽略后续指令。 • 独立保护系统同样依赖传感器读数、估算结果和消息；研究人员向预期保持静止的机器人注入ROS 2/DDS消息后，机器人发生移动。 • 利用陀螺仪共振频率的声音可能扭曲姿态读数，但摘要明确指出，相关攻击链尚未被证明会导致人形机器人跌倒，其他保护机制也可能中断攻击。 机器人安全机制不仅会受偶发故障影响，也可能因被操纵的传感、通信或环境输入而失效，因此需要检验保护系统是否真正独立于不可信信息。