-
自动驾驶爆雷!美专家4小时发现百度Apollo英伟达DriveAV的561个故障
本文经授权转自新智元(ID:AI_era)。
马斯克曾说:“自动驾驶永远不会完美,但比人类驾驶安全10倍!”真是这样吗?伊利诺伊大学香槟分校的研究人员开发了一种故障评估技术,在对百度Apollo 3.0和英伟达专有自动驾驶系统DriveAV的测试中,4小时发现了561个关键安全故障。
特斯拉CEO马斯克曾经放话:“自动驾驶永远不会完美,但比人类驾驶安全10倍!”
然而,真是这样吗?
伊利诺伊大学香槟分校的一个研究团队在分析了自动驾驶公司2014年至2017年提交的所有安全报告(涵盖144辆自动驾驶汽车,累计行驶1116605英里)后,得出一个截然相反的结论:
在行驶相同里程的情况下,自动驾驶汽车发生事故的可能性是人类驾驶汽车的4000倍。
而就在最近,这个研究团队开发的一种针对自动驾驶的故障评估技术,在对百度Apollo 3.0和英伟达专有自动驾驶系统DriveAV的测试中,短短4小时就发现了561个关键安全故障!
这个研究团队致力于使用人工智能和机器学习,通过软件和硬件的改进来提高自动驾驶技术的安全性。
“由于车辆电气和机械组件的复杂性,以及天气、路况、地形、交通模式和照明等外部条件的变化,使用AI来改进自动驾驶车辆非常困难。”伊利诺伊大学CSL实验室教授Ravishankar K. Iyer说,“目前我们正在取得进展,但安全仍是一个重大问题。”
Ravi Iyer
研究小组目前正在开发技术和工具,从而找到影响自动驾驶车辆安全的驾驶条件和问题。使用他们的技术,可以找到大量的至关安全的场景,在这些场景中,一个小小的错误就可能酿成大祸。如此一来节省了大量的时间和金钱。
在对百度Apollo 3.0和英伟达DriveAV的测试中,该团队所开发的故障注入引擎DriveFI在4小时内发现了500多个该软问题。
示例场景:(1)目标FI导致危险状态;(2)特斯拉自动驾驶仪的真实例子与注入故障类似
这样的发现让这个团队的工作得到了业内的关注。该团队正在为他们的测试技术申请专利,并计划很快进行部署。理想情况下,研究人员希望公司使用这项新技术来模拟已发现的问题,并在部署汽车之前解决问题。
自动驾驶事故可能性比人驾驶高4000倍,安全评估面临挑战
“我们团队正在应对一些挑战,”领导该项目的计算机科学博士生Saurabh Jha说。“解决这一挑战需要跨越科学、技术和制造的多学科努力。”
为什么这项工作挑战性很大?因为自动驾驶是使用AI和机器学习来集成机械、电子和计算技术以做出实时驾驶决策的复杂系统。典型的自动驾驶系统就像放在轮子上的微型超级计算机;拥有50多个处理器和加速器,运行着超过1亿行代码,来支持计算机视觉、规划和其他机器学习任务。
这些车辆的传感器和自动驾驶堆栈(计算软件和硬件)有可能存在问题。当一辆汽车以每小时70英里的速度在高速公路上行驶时,故障对司机来说可能是一个重大的安全隐患。
“如果一辆普通汽车的驾驶员感觉到诸如车辆漂移或拉力之类的问题,他/她可以调整自己的行为并将车辆引导到一个安全的停车点。”Jha解释说:“然而,在这种情况下,除非自动驾驶汽车针对这些问题进行了训练,否则自动驾驶汽车会如何应对是不可预测的。在现实世界中,这样的例子数不胜数。”
多数人在电脑或智能手机上遇到软件问题时,最常见的反应是关机重启。然而,此方法不建议用于自动驾驶汽车,因为耽误的每一毫秒都会影响结果,而响应稍慢一点就可能会导致死亡。在过去的几年里,由于自动驾驶引发的各种事故,人们对这种基于人工智能的系统的安全担忧不断增加。
“现行法规要求Uber和Waymo等在公共道路上测试无人车的公司,每年要向加州车辆管理局(DMV)汇报其车辆的安全性,”CSL和计算机科学专业的研究生Subho Banerjee说。“我们想了解常见的安全问题有哪些,汽车的性能如何,以及理想的安全标准是什么,以了解自动驾驶系统的设计是否足够好。”
该团队分析了2014年至2017年提交的所有安全报告,涵盖144辆自动驾驶汽车,累计行驶1116605英里。他们发现,在行驶相同里程的情况下,自动驾驶汽车发生事故的可能性是人类驾驶汽车的4000倍。这意味着,自动驾驶技术不能妥善处理情况的概率之高非常惊人,往往要依靠人类驾驶员来接管。
研究人员和公司在试图改善这种情况时遇到的一大挑战是,在自动驾驶汽车系统出现特定的问题之前,很难训练软件来克服它。
此外,软件和硬件堆栈中的错误仅在某些驾驶场景下才表现为安全关键问题。换句话说,在高速公路或空旷/不太拥挤的道路上进行的自动驾驶汽车测试可能是不够的,因为这种情况下即使发生软件/硬件故障也很少导致安全问题。
车辆模拟
真的发生故障时,往往是在汽车已经行驶了数十万英里之后。为了测试这些自动驾驶汽车,需要花费大量的时间、金钱和精力,这使得测试过程非常低效。因此,研究团队决定使用计算机仿真环境和人工智能来加速这一过程。
“我们将自动驾驶汽车的软件和硬件堆栈中的错误注入到计算机仿真环境中,然后收集自动驾驶汽车对这些问题的响应数据,”Jha说。“与人类不同,当今的AI技术无法推理出不同驾驶场景中可能出现的错误。因此,需要大量的数据来教会软件在面对软件或硬件故障时采取正确的行动。”
DriveFI:4小时发现百度Apollo、英伟达DriveAV 561个故障
研究人员在论文“ML-based Fault Injection for Autonomous Vehicles: A Case for Bayesian Fault Injection”中,介绍了一种基于机器学习的故障注入引擎DriveFI,它能挖掘最大程度地影响自动驾驶安全性的情况和故障,这在两个工业级自动驾驶系统(来自NVIDIA和百度)上得到了证明。
论文地址:
https://arxiv.org/pdf/1907.01051.pdf
例如,DriveFI在不到4小时的时间里发现了561个安全关键故障。相比之下,花了数周进行的随机注入实验没有发现任何安全关键故障。
故障注入实验
自动驾驶汽车(Autonomous vehicles, AVs)是一个复杂的系统,它使用人工智能和机器学习来集成机械、电子和计算技术以做出实时驾驶决策。AI使自动驾驶汽车能够在复杂的环境中导航,同时保持安全范围,该安全范围由机载传感器(如相机、激光雷达、雷达)不断地测量和量化。因此,迫切需要对自动驾驶技术进行全面评估。
ADS的架构
然而,在实际的驾驶环境中对这些系统进行评估一直具有挑战性,特别是由于随机故障的出现。故障注入(Fault injection,FI)是用于测试计算和网络物理系统在故障下的弹性和错误处理能力的一种成熟方法。基于FI的自动驾驶评估提出了一个独特的挑战,不仅因为自动驾驶的复杂性,也因为AI在这样一个自由流动的操作环境中的中心地位。此外,自动驾驶系统代表了软件和硬件技术的复杂集成,这些技术已经被证明容易出现硬件和软件错误。未来,代码复杂性的增加只会加剧这个问题。
DriveFI架构
DriveFI是一种用于自动驾驶的智能FI框架,它通过识别可能导致碰撞和事故的危险情况来应对上述挑战。
DriveFI包括(a)一个FI引擎,可以修改自动驾驶系统(ADS)的软件和硬件状态以模拟故障的发生;和(b) 基于ML的故障选择引擎,我们称之为贝叶斯故障注入(Bayesian fault injection),可以找到最有可能导致违反安全条件的情况和故障。相比之下,传统的FI技术往往不关注安全违规,在实践中表现率较低,并需要大量的测试时间。请注意,在给定一个故障模型的情况下,DriveFI也可以执行随机FI来获得基线性能。
- 原标题:自动驾驶爆雷!美国专家4小时发现百度Apollo、英伟达DriveAV的561个故障
- 责任编辑: 程北墨 
-
三星或关闭自家云服务 力推微软OneDrive
2019-11-01 17:40 TMT观察 -
我国力争本世纪中叶建成地月空间经济区
2019-11-01 14:24 航空航天 -
TCL张少勇:以牺牲画质把成本做低的技术,我们不要
2019-11-01 14:18 TMT观察 -
“关于量子计算机的讨论已偏离科学轨道”
2019-11-01 13:12 科技前沿 -
台积电研发大军计划扩增8000人,投入3纳米以下制程
2019-11-01 11:59 TMT观察 -
中国5G广播标准将争取成为国际标准
2019-11-01 11:44 5G -
中科院70周年:我们带你上天、入地、下海!
2019-11-01 10:23 科技前沿 -
紫光展锐:5G SA/NSA室内测试完成、5G毫米波上下行打通
2019-11-01 09:16 5G -
陈纯院士:中国区块链发展亟待突破四项核心技术
2019-11-01 08:37 科技前沿 -
钱老,您走的这10年,我们把这些事都干成了
2019-11-01 07:05 科技前沿 -
《自然》发表我国科学家最新成果:二维高温超导体研究取得进展
2019-10-31 20:46 -
重量最轻体积最小的大疆无人机发布:重249克,售价2699元
2019-10-31 17:55 TMT观察 -
5G落后于人,日企瞄准英特尔合作6G
2019-10-31 15:53 日本 -
5G套餐正式启动,华为Mate30系列5G版明日开售
2019-10-31 11:21 华为 -
日本诺奖得主:耐心点 中国会有更多人得奖
2019-10-31 09:46 诺贝尔奖 -
面板产能扩充价格下跌 台友达董事长称陆企不理性
2019-10-30 21:33 产业万象 -
中国铁塔刘国锋:5G频段高,难以通过室外覆盖室内
2019-10-30 21:26 -
华为手机Q3逆市增长66% 苹果小米OV大跌
2019-10-30 14:18 华为 -
回归翻盖机!三星公开下代折叠手机设计
2019-10-30 12:39 手机 -
苹果、华为、高通…抢订台积电5纳米?美国又急了
2019-10-30 11:20 科技前沿
相关推荐 -
“派人赴美秘密会谈,她作了最后一搏” 评论 5“欧洲的‘美国世纪’,结束了” 评论 105“美国已成全球风险,G7反应最剧烈” 评论 109史无前例!加13省省长齐赴美“求饶”:都怪中国… 评论 417即刻和谈、美俄互访、沙特会晤…这通电话信息量很大 评论 349最新闻 Hot
-
以色列年内动手?伊朗强硬回应:你破坏一百个,我再造一千个
-
“美国已成全球风险,G7反应最剧烈”
-
欧尔班开嘲:汗流浃背了吧,小兔兔
-
美媒警醒美政府:对华AI竞争,决不能犯这么个大错
-
迄今最高能幽灵粒子被探测到了!
-
关系虽好,1000万美元还是要赔
-
史无前例!加13省省长齐赴美“求饶”:都怪中国…
-
白宫证实:特朗普见莫迪前,加!
-
“挑战星链,中国迈出关键一步”
-
台中一百货大楼疑似发生燃气爆炸,已致4死20伤
-
赶走中国主播后,NHK又翻车了
-
OpenAI奥特曼:GPT-5标准版将免费无限使用
-
欧洲回过味儿了:到头来,我们啥也不是呗
-
大选前11天,欧尔班站台德国选择党
-
即刻和谈、美俄互访、沙特会晤…这通电话信息量很大
-
荷兰外相污蔑:小心中国“偷”芯片
-