混淆自动驾驶汽车可能非常容易

2021-11-06 08:54:36   编辑:庄胜真
导读研究人员警告说,混淆自动驾驶汽车就像在路标上贴一些贴纸一样容易。随着无人驾驶项目寻求降低成本和减少对激光雷达等昂贵传感器的依赖的方

研究人员警告说,混淆自动驾驶汽车就像在路标上贴一些贴纸一样容易。随着无人驾驶项目寻求降低成本和减少对激光雷达等昂贵传感器的依赖的方法,许多人开始寻求基于摄像头的替代方案,以更好地了解车辆周围的世界。现在,华盛顿大学的研究人员发现,让自动驾驶汽车偏离轨道可能就像对道路标志进行细微改动一样容易。

正如该团队所解释的那样,虽然通过完全移除标志很容易制造混乱,但可以快速发现并解决严厉的方法。可以说更危险的是一种“强大而微妙”的修改,它可以可靠地说服机器学习系统——例如自动驾驶汽车的大脑——但不会立即被人类工作人员和识别为危险的东西。

他们写道:“如果攻击者能够以某种方式物理而稳健地操纵路标,例如,导致停车标志被基于机器学习的视觉系统解释为限速标志,那么这可能会导致严重的后果。结果。”

他们想出了一个贴纸系统,可以用普通打印机和你在当地订书钉上找到的耗材生产,但如果按照正确的顺序贴在路标上,它可以达到 100% 有效的愚弄智能汽车的大脑。重要的是,即使贴上贴纸,那些没有意识到日常涂鸦式故意破坏可能存在危险的人也很容易将贴纸拒之门外。

然而,在全自动驾驶汽车大规模上路之前,该漏洞可能具有危险的应用。几家汽车制造商已经使用基于摄像头的系统来读取道路标志、发现临时限速和其他细节。该数据通常与导航数据库中的信息相结合。

目前,很少有汽车制造商仅依靠这种基于摄像头的信息来控制车辆行为的关键任务要素。一些自适应巡航控制系统,例如梅赛德斯-奔驰的 DISTRONIC,可以随着汽车进出不同限制的道路自动调低或调高设定速度,但通常会根据车载数据库检查信息。尽管如此,随着基于视觉的系统变得越来越普遍,这可能会成为更大的威胁。

增加不确定性的是,没有两个自动驾驶汽车项目似乎无法就安全达到 4 级和 5 级所需的硬件达成一致。 根据普遍接受的 SAE 研究所对自我的定义,它们是驾驶车辆时,汽车几乎可以在任何情况下完全接管控制权。虽然定义可能相同,但实现此类功能的途径可能大不相同。

一方面,许多人支持包含 LIDAR 的系统,这是一种有效的激光测距仪,可以以 3D 形式构建车辆周围环境的实时地图。尽管 LIDAR 在该映射中非常准确,但它也非常昂贵。几家公司正在努力降低成本,但它仍然可能是任何自动驾驶汽车设备中最大的一笔支出。

这促使一些项目寻找绕过 LIDAR 的方法。值得一提的是,特斯拉曾表示,它相信其当前的 Autopilot gen-2 硬件——包括摄像头、雷达和其他传感器,但没有激光雷达——足以满足有一天实现 5 级自动驾驶的需求。其他半自主系统,如将于今年晚些时候推出的凯迪拉克 Super Cruise,依赖于激光雷达映射数据,但不要求个别车辆本身配备此类传感器,而是使用升级的 GPS 跟踪。

研究人员得出结论,需要更多关注物理基础设施如何对越来越多的机器驱动汽车产生高于平均水平的影响。然而,对于那些从事自动驾驶汽车的公司来说,挑战似乎是如何提供系统冗余的安全性,同时仍将总体成本降低到大众市场可以承受的水平。

免责声明:本文由用户上传,如有侵权请联系删除!

猜你喜欢

最新文章