本研究的贡献

DriveFI的Bayesian FI框架能够通过对ADS在故障下的行为进行因果推理和反事实推理，从而发现关键安全情况和故障。

它通过(a)以车辆运动学和AV架构的形式整合领域知识，(b)基于横向和纵向停车距离的安全建模，(c)使用真实的故障模型来模拟软件错误，从而做到这一点。(a)、(b)和(c)被集成到一个贝叶斯网络(BN)中。

BN提供了一种有利的形式化方法，即用可解释的模型来对故障在AV系统组件之间的传播进行建模。该模型与故障注入结果可用于设计和评估AV的安全性。

此外，BN支持快速概率推理，这使得DriveFI能够快速找到对安全关键的故障。

Bayesian FI框架可以扩展到其他安全关键系统(如手术机器人)。该框架要求对安全约束条件和系统软件架构进行规范，以建模系统子组件之间的因果关系。

自动驾驶汽车的自主系统和机械系统，及其与DriveFI的交互作用。

研究小组在两个工业级的4级ADS上演示了这种方法的能力和通用性，分别是DriveAV(NVIDIA的专有ADS)和Apollo 3.0(百度的开源ADS)。

结果

研究团队使用三种故障模型：(a)非ECC保护的处理器结构中的随机故障和一致故障；(b) ADS软件模块输出中的随机故障和一致故障；(c) ADS模块输出中被Bayesian FI损坏的故障。

主要结果包括：

使用错误模型(b)，我们编制了一个包含98,400个错误的列表。在模拟的驾驶场景中，如果要对所有98,400个故障进行彻底的评估需要615天。相比之下，Bayesian FI能够在不到4小时的时间内找到561个对AV安全性影响最大的故障。也就是说，Bayesian FI比传统方法快了3690倍。

Bayesian FI能够发现导致安全隐患的关键故障和场景。(a)在561个已确定的故障中，460个显示为安全隐患。(b)这460个故障与68个安全关键场景有关(总共7200个场景)。

通过对挖掘出的关键故障进行检测，发现最容易发生车辆碰撞事故的ADS模块输出前3位分别是节气门值(561个关键故障中的24%)、PID控制器输入(18%)和传感器融合障碍类值(15%)。Bayesian FI用于创建违反车道的目标的ADS模块输出是：(a)车道类型值(2%)、(b)油门(1.4%)、(c)转向(1.4%)。56%的故障类型从未被Bayesian FI使用过；例如Bayesian FI从未注入到相机传感器对象分类模块的输出中。

使用FI 获得的故障/错误影响表征

相比之下，在5000次random FI试验的几周内，没有发现一个安全隐患。只有1.93%的单比特注入导致了静态数据损坏(SDC)，从而导致启动错误。ADS从所有这些错误中恢复了，没有任何安全违规。在7.35%的FIs中，发生了内核恐慌和死机。预期可以通过AV中现有的备份/冗余系统从这些故障中恢复。

作者表示，Bayesian FI方法挖掘关键情况将具有比故障注入法更广泛的适用性。结合一系列故障注入实验的结果来创建一个情况库，将有助于制造商制定AV测试和安全驾驶的规则和条件。

自动驾驶问题多，离真正上路还有多远？

这项新研究表明，即使像百度、英伟达这些大厂的自动驾驶技术也存在不少问题，而且自动驾驶技术还有很多不能妥善处理情况，往往要依靠人类驾驶员来接管。

对于自动驾驶这一新生事物，安全性是最受关注的，以至于一旦无人车发生事故立刻就会成爆炸新闻。自2016年初以来，加州共报告了111起涉及自动驾驶汽车的撞车事故（这还不包括可能造成的事故风险）。根据对DMV报告的分析，其中71起事故发生时，车辆处于自动驾驶模式。其中，有接近70%涉及自动驾驶车辆被追尾事故。

最典型的是Uber去年3月的“全球首起无人驾驶致死”事故：一辆处于自动驾驶模式的Uber无人车在道路测试时发生致死车祸。

事件发生于凤凰城以东11英里的Tempe镇。当时，Uber无人车正在向北行驶，一名女子在人行横道外穿，被车辆撞倒，被送往医院后，由于伤势过重死亡。

尽管经过近一年的调查后证明，Uber在这起事故中不担刑责，但事故直接导致Uber自动驾驶业务元气大伤。

对自动驾驶技术颇为激进的特斯拉，其Autopilot自动驾驶仪也频频发生事故，包括一起“一辆Model X在自动驾驶模式下撞上高速公路护栏”的致死事故，装上卡车、追尾消防车等等，每一起事故都冲击着大众对自动驾驶的信任度。

特斯拉自动驾驶致死车祸

这样看来，在无人车上路前就检测到可能存在的自动驾驶系统的故障显得尤为重要。对于伊利诺伊大学香槟分校的研究团队在4小时内发现了百度Apollo 3.0、英伟达DriveAV系统存在561个故障，你怎么看？你觉得自动驾驶什么时候才能真正上路呢？

参考链接：

https://www.sciencedaily.com/releases/2019/10/191025170813.htm

https://arxiv.org/pdf/1907.01051.pdf