慕尼黑工业大学(TUM)的研究人员开发了自动驾驶软件，以公平的方式在街道上分配风险。该软件中包含的算法被认为是第一个纳入委员会专家组20项道德建议的算法，因此比以前的算法做出更具差异化的决策。

通过评估对行人和驾驶者的不同程度的风险，使自动驾驶车辆的运行更加安全。该代码作为开源软件向公众开放。

在允许自动驾驶车辆大规模上街之前，技术实现并不是需要克服的唯一障碍。道德问题在相应算法的开发中起着重要作用：软件必须能够处理不可预见的情况，并在即将发生的事故中做出必要的决定。

TUM的研究人员现在已经开发出第一个道德算法来公平地分配风险水平，而不是按照非此即彼的原则进行操作。测试了大约2，000个涉及危急情况的场景，分布在欧洲，美国和中国等各种类型的街道和地区。发表在《自然机器智能》杂志上的研究工作是TUM汽车技术和TUM人工智能伦理研究所(IEAI)商业道德合作的联合成果。

TUM汽车技术的科学家马克西米利安·盖斯林格(Maximilian Geisslinger)解释了这种方法：“到目前为止，自动驾驶汽车在遇到道德决定时总是面临非此即彼的选择。但街道交通不一定能分为明确的、黑白分明的情况;更重要的是，还必须考虑中间的无数灰色阴影。我们的算法权衡各种风险，并从数千种可能的行为中做出道德选择，而且只需几分之一秒。

危急情况下的更多选择

专家组在 2020 年代表委员会将软件风险评估所依据的基本道德参数定义为书面建议。该建议包括一些基本原则，例如优先考虑最坏的情况和在所有道路使用者之间公平分配风险。为了将这些规则转化为数学计算，研究小组根据车辆和人员对他人带来的风险以及各自的风险意愿对车辆和人员进行分类。

例如，卡车可能会对其他交通参与者造成严重损害，而在许多情况下，卡车本身只会受到轻微损坏。自行车的情况正好相反。在下一步中，算法被告知在各种街道情况下不要超过最大可接受风险。此外，研究小组在计算中添加了变量，这些变量解释了交通参与者的责任，例如遵守交通法规的责任。

以前的方法只用少量可能的动作来处理街上的危急情况;在不清楚的情况下，车辆只是停下来。现在集成到研究人员代码中的风险评估导致更多可能的自由度，同时降低所有人的风险。一个例子将说明这种方法：一辆自动驾驶汽车想要超越一辆自行车，而一辆卡车正在迎面而来的车道上接近。现在利用了有关周围环境和单个参与者的所有现有数据。

自行车是否可以在不驶向迎面而来的车道上行驶，同时与自行车保持安全距离的情况下超车?每辆车面临的风险是什么，这些车辆对自动驾驶汽车本身构成什么风险?在不清楚的情况下，配备新软件的自动驾驶汽车总是等到所有参与者的风险都能接受。避免了激进的机动，同时自动驾驶汽车不会简单地冻结并突然卡住刹车。“是”和“否”无关紧要，取而代之的是包含大量选项的评估。

“对传统伦理理论的单独考虑导致了死胡同”

“到目前为止，人们通常考虑传统的伦理理论来得出自动驾驶汽车做出的道德上允许的决定。这最终导致了死胡同，因为在许多交通情况下，除了违反一项道德原则之外别无选择，“TUM商业道德科学家Franziska Poszler说。“相比之下，我们的框架将风险伦理置于中心。这使我们能够考虑概率，做出更具差异化的评估。

研究人员强调，即使是基于风险道德的算法——尽管它们可以在每种可能的交通情况下根据基本的道德原则做出决策——它们仍然不能保证无事故的街道交通。将来，还需要考虑进一步的差异，例如道德决策中的文化差异。

到目前为止，TUM开发的算法已经在模拟中得到了验证。将来，该软件将使用研究车辆EDGAR在街上进行测试。体现研究活动结果的代码可作为开源软件提供。因此，TUM正在为开发可行和安全的自动驾驶汽车做出贡献。