研究人员在速限号志粘贴一截电工绝缘胶带，结果成功骗过特斯拉（Tesla）的电动汽车加速，突显出目前自驾系统面临的各种潜在漏洞。
McAfee的研究报告显示，技术人员用胶带横贴在时速“35”英里限速标志“3”数字正中间，这小小改变导致车辆误判速限为“85”英里，随即车子的巡航定速控制系统（Cruise Control System）自动加速。
（图片来源：视频截屏）
McAfee表示，这个问题对开车的人来说不是严重的风险，实验时没有人受伤，驾车的研究人员也安全减速。但这长达18个月、去年结束的研究结果表明，自动驾驶的机器学习系统有弱点。据McAfee先进威胁研究（Advanced Threat Research）实验室负责人Steve Povolny指出，其他研究也显示实体世界的一些改变如何轻易混淆系统。
McAfee表示：这类测试在真实世界并不常见
这些测试包括2016款的Model S和Model X，使用Mobileye公司（现为Intel旗下业务单位）提供的摄影机系统。虽然特斯拉2016年停止使用Mobileye系统，但仍有几家汽车制造商继续使用。
Mobileye最新的摄影机系统测试并没有发现同样漏洞，且特斯拉最新车款显然不再依赖只识别交通信号灯，McAfee指出。对此研究有何评论的询问邮件，特斯拉没有任何回应。
“制造商和供应商已获悉这问题，并进一步了解与改善，”Povolny表示：“但这并不能改变自动驾驶业有许多盲点的事实。”可肯定的是，还好对真实世界的威胁有限。首先，自动驾驶汽车仍处于开发阶段，大多数都会在安全驾驶员可随时接手方向盘的情况下测试。虽然现在很多车皆已支持先进驾驶辅助系统（ADAS），但仍然需要驾驶注意路况。
McAfee研究人员只能通过复制一连串特定事件来欺骗系统，包括打开驾驶辅助功能，并遇到遭篡改的速限标志等事件才能办到。制造商还将地图测绘技术集成到回应适当速限的系统。“直到我们拥有真正的自动驾驶汽车前，都不太可能在真实世界看到上述状况，或攻击者试图利用这些漏洞，到了那个时候，我们希望这类缺陷也尽早解决。”Povolny表示。
Mobileye声明表示，即使是驾驶也会被这类修改愚弄，这次研究人员测试的系统，一开始是专为辅助驾驶设计的，而不是支持自动驾驶。
除传感外，自动驾驶汽车需借助各种技术提升安全性与容错能力
“自动驾驶汽车技术不仅依赖传感，也会获得像是群众外包地图（Crowd Sourced Mapping）等其他各种技术和数据支持，以确保从摄影机传感器接收信息的可靠性，并提供更坚固的备援及安全性。”McAfee表示。
McAfee的研究遵循类似对抗性机器学习（Adversarial Machine Learning）的学术工作，属于较新的研究领域，专门研究如何操纵基于计算机的学习系统。研究人员2017年发现，在停车标志（Stop Sign）的特定位置粘贴4张黑白贴纸，就可能骗过计算机视觉，让它误看成是时速45英里的速限号志。
杜克大学（Duke University）机器人学教授暨自动驾驶汽车专家Missy Cummings表示，这问题并不是特斯拉或Mobileye独有，而是自动驾驶汽车先进系统先天存在的普遍安全弱点。研究人员已证明，不访问系统本身的情况下改变实体环境可能会导致潜在的严重故障状况。“这就是为什么它如此危险，因为你不需要通过访问系统破解，你只需要存在我们所处的世界。”她表示。
Cummings表示，McAfee的发现说明为什么自动驾驶汽车应该接受“视觉测试”，以评估自动驾驶系统能否安全侦测周边，并及时处理其他车辆、行人和其他用路人共同构建的各种真实状况。安全倡导人士已敦促美国汽车安全监管机构和国会议员，将此评估结果纳入国会正制定的新自动驾驶汽车法案的其他要件。
（首图来源：特斯拉）