他轻松黑了一台特斯拉，成本不到一分钱！
发布网友
发布时间：2022-04-21 21:48
共1个回答
热心网友
时间：2023-07-01 14:38
文/张一
在完全的无人驾驶时代尚未来临前，对于自动驾驶汽车我们还要继续保持足够的宽容度。前几天有一个很有意思的新闻，国外的一家机构仅用一小截胶带就骗过了特斯拉autopilot，使其超速了100%以上，这件事细思极恐呀。
事情的具体细节是这样，网络安全公司McAfee的研究人员在一个限速35英里的道路限速牌上，用一截2英寸长的黑色胶带把“3”的中间一横稍稍进行了延长。然而就是这样一个微妙的且便宜又好操作的手段，成功把特斯拉autopilot系统的眼睛忽悠瘸了，使得2016版的特斯拉Model X和Model S在经过此处时把时速提高到了85英里每小时，超过限速100%以上。
能让特斯拉自动驾驶系统出岔子，成本仅仅是一截黑色胶带，这波操作实在有点秀。有意思的是，特斯拉2016生产的Model X和Model S的视觉模块使用的还是Mobileye的芯片-Mobileye EyeQ3， 而EyeQ3芯片还曾搭载在沃尔沃、宝马的部分车型上，不过特斯拉在2016年之后就不再继续使用Mobileye EyeQ3，转而使用自研的产品。
但其实，Mobileye EyeQ3彼时也只是一款为L2级别自动驾驶开发的芯片，仅匹配单目摄像头，尽管同时可以识别4根以上车道线，包括车道线类型、颜色，对车辆识别率达到99%，但仍不能保证100%不会出错。比如，2016年特斯拉第一起致命事故，就是因为车辆的视觉系统未能正确识别横穿道路的白色拖车，而驾驶员此时又在玩手游，于是最后一道防线也不存在了，最终车毁人亡。
当然了，如今Mobileye 已经祭出了EyeQ5，视感体系中拥有更多相互独立的感知算法实现冗余叠加，促使自动驾驶车辆做出决策的条件已经不是那么单一，可实现对未来完全自动驾驶汽车的支持。但是，在完全自动驾驶那天还未到来前，自动驾驶车辆的感知系统其实已经不止一次被人类有意“戏耍”了。
我们来盘一下这些事情，比如著名的科恩实验室多次“戏耍”过特斯拉autopilot的感知系统。其中一次也很有意思，“戏耍”的手段也并非是很具技术含量且普通人难以操作的网络黑客式攻击，同样是很简单的“障眼法”。
科恩实验室的人员只是在正常的道路行驶线*斜放置了三个白色纸片，这些白色纸片几乎透明且肉眼很难识别，然而就是这几枚纸片导致特斯拉Model S在经过此地时，向左偏转了方向驶入了对向车道。这个过程中，特斯拉autopilot系统显然将其识别为了障碍物。
至于导致特斯拉autopilot系统误判的原因则比较复杂，我查了一些资料，原因可能在于智能AI视觉识别系统是依赖训练神经网络来识别目标，也就是需要提供大量的样本参考，但也依然会存在部分样本无法识别或者误判的现象，这部分样本被称之为“对抗性补丁”。而一旦正常需要识别的目标中出现了“对抗性补丁”，那么误判或者无法识别的现象就会出现。这也和我们前文说到的，特斯拉autopilot系统把限速35英里识别成限速85英里的原因类似。
另外，科恩实验室还曾在做过一次简单的实验，利用人工智能对抗样本生成技术，生成了特定图像放在一辆特斯拉前面，结果成功诱骗了特斯拉开启了自动雨刷。其原理则是特斯拉Autopilot系统是借助图像识别技术，通过识别外部天气状况实现自动雨刷功能，而科恩实验室正是通过了特定的干扰图像，让系统出现误判并开启了雨刷系统。
其实，以上这些情况都说明了一个问题，那就是在当下“黑”掉一辆自动驾驶汽车并没有想象中那么难，起码在知道对抗原理的情况下仅需一些物理手段就能够实现。其实这种事例国外还有很多，比如以色列的一个大学生曾利用普通的投影仪在路边树上投了一个限速标示，这种拙劣手法是不可能欺骗到人类驾驶员的，然而也就是这种拙劣手法竟然成功欺骗到了一辆特斯拉Model X。此外他们还在普通无标线的道路上用投影仪投*简单的车道线，结果也成功拐骗了这辆Model X。
当然了，至于为什么受伤的总是特斯拉？首先拿特斯拉做测试可能比较有代表性。第二点才是主要原因，因为特斯拉目前的自动驾驶技术并不依赖高精地图，这就意味着特斯拉autopilot对视觉模块的依赖性很强，所以只要骗过了特斯拉autopilot的视觉模块，那你基本上就成功了。
用一截胶带骗过了自动驾驶车辆的视觉模块这件事，其实细究起来也很恐怖，因为首先人类驾驶员是不会做出这种决策的，因为正常逻辑下限速每小时35英里的道路是不可能突然出现每小时85英里限速牌的，所以首先人类就会有一个质疑判断的过程。
而自动驾驶车辆的弱点就在于，它太过于认真，再加上如果促使系统做决策的条件过于单一，那么即便识别到错误的信息它也会一丝不苟的执行下去。
总而言之，这些实验很好地证明了一件事，未来高级别的完全自动驾驶一定是需要高精地图以及V2X车路协同做支撑的，仅依靠视觉解决方案无异于在暗夜中狂奔，不管眼睛睁得多大，如何“适应”，危险隐患始终存在。
本文来源于汽车之家车家号作者，不代表汽车之家的观点立场。
