给黑盒导航机器人「使绊子」：AdvNav 如何揭示具身智能系统潜在安全风险 | GAIR Paper 117
研究揭示视觉语言导航VLN机器人的安全隐患：黑盒条件下可被对抗样本欺骗，摄像头被污染或遭恶意干扰时机器人会完全信任错误视觉信息，医院仓库等场景的自主导航存在潜在风险。
AI 点评
研究揭示视觉语言导航VLN机器人的安全隐患：黑盒条件下可被对抗样本欺骗，摄像头被污染或遭恶意干扰时机器人会完全信任错误视觉信息，医院仓库等场景的自主导航存在潜在风险。
高春辉黑盒对抗样本验证对VLN智能体很重要，本质上跟传统安全测试没区别，就是找边界条件，你明白吧
某高老师不是，这些机器人现在就敢完全相信摄像头？跟当年那些吹嘘自动驾驶能取代司机的一样，都太缺心眼了
朱峰其实这件事本质上是给行业敲警钟，视觉输入必须有冗余校验，医疗物流真要大规模用这类机器人，且看
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →