首页 >要闻 > 内容

特斯拉和其他自动驾驶汽车被2D投影欺骗了

要闻 2020-02-07 15:41:16

一组学者说,你可以通过在道路上、路边投射2D图像,或者在视频广告牌中嵌入某些“触发器”,来欺骗在自动驾驶模式下驾驶的moderm智能汽车,让它们采取不必要的行动,比如刹车或切换方向。

这项上周发表的新研究研究研究了先进的驾驶辅助系统(ADASs)和自动驾驶技术如何对在移动汽车及其自动驾驶传感器的路径中投射的2D物体(也称为无深度物体或幻影)作出反应。

为了他们的研究,题为“ADAS的幻影:驾驶辅助系统的幻影攻击”[PD F],研究人员只研究了两项技术-Mobileye630PRO(用于本田、马自达和雷诺汽车)和特斯拉型号XHW2.5自动驾驶系统。

研究人员发现,在几种情况下,这些系统将识别2D预测作为与交通有关的项目,而不是它们是什么-预测。

例如,汽车将识别在道路上投射的人类的二维投影,自动驾驶仪将进入中断,以减缓或停止车辆。

同样的技巧也适用于汽车的投射。

在另一种情况下,研究小组在道路上投射出新的线路,欺骗汽车认为它需要转弯和调整车道,这种伎俩可能使汽车进入附近的车道,并危及乘客的生命。

但这种戏法不仅仅是在路上投射2D物体。例如,像墙壁或树木这样的路边路标的投影图像同样有效,而被测试的自动驾驶系统无法分辨出投影和真实路标之间的区别。

此外,2D对象并不总是需要投影。研究小组说,在任何其他媒体中嵌入一个平面的2D物体都很好,比如在广告牌上播放的视频广告。在他们的实验中,他们在一个广告牌广告中嵌入了一个路标,欺骗了它在一个更高的速度区域的汽车。

研究人员说,物体可以通过多种方式投影,使用便宜的300美元的投影仪,你可以从亚马逊购买。这些投影仪可以手持,也可以安装在飞行无人机上。

此外,研究小组说,投射流氓2D物体并不一定意味着投影需要长时间可见。他们说,几百毫秒就够了。

短爆投射对人的眼睛来说是看不见的,但它们仍然可以被ADAS和自动驾驶系统使用的强大的传感器和摄像机看到。

这为现实世界的场景打开了大门,在这些场景中,人类司机甚至不会发现投影,但汽车会突然中断或转向迎面而来的交通。

这是一个重要的观察,因为大多数汽车制造商建议司机只在直接监督下使用自动驾驶仪。汽车销售商说,这些系统应该用来帮助司机开车时,但手应该始终保持在车轮和眼睛在道路上。由于投影可以在汽车前闪烁几毫秒,不遵守这些规则的司机将无法及时作出反应。

研究小组表示,他们已将他们的发现通知了Mobileye和特斯拉,但汽车制造商尚未对其系统进行改进。其中一个原因是,软件无法检测到投射在树叶上的路标和绑在树(或墙)上的合法路标之间的区别,在那里预计会找到一些路标。同样的道理也适用于将道路标记的投影与合法的道路线区分开来。

然而,自动驾驶系统应该能够区分人类和汽车的投影与真实的东西。在这种情况下,前进的方向是自动驾驶仪和其他ADAS系统获得识别2D无深度物体的支持,类似于一些面部识别系统如何检测人类面部的照片并阻止成功的身份验证。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢。