自动驾驶汽车初创公司希望让 AI 免于做出生死攸关的决定

当连续创业者巴里·伦 (Barry Lunn) 决定开始驾驶软件业务时，他参加了几场行业内幕活动，他说在那里他了解到了大肆宣传的自动驾驶领域背后的“真相”。他说，从 2015 年开始，他参加了从底特律到硅谷的传感器和自治贸易展，并与人工智能领域的知名人士擦肩而过，喝了酒。 Lunn 有一个在会议上收集信息的特殊公式：建立作为聚会后首选人的声誉，邀请谁和你一起出去，并就他们不会公开讨论的话题挑选他们的大脑。 “你确保每个人都知道你是去爱尔兰酒吧的人，然后你让最聪明的人进入酒吧，你会发现他们行业的真相，”伦说。 2017 年的一个“大开眼界”事件在他的脑海中脱颖而出，并促使他在汽车安全领域开始了新的冒险。他说，这是一场没有媒体允许的聚会，与在洛杉矶举行的名为 MobilityX 的会议相关联，Lunn 和其他人工智能高管在那里度过了一个周末，喝鸡尾酒、吃美味佳肴和试驾豪华汽车。他们公开谈论自动驾驶的发展方向。 Lunn 离开时认为该行业正朝着错误的方向发展。 “你需要解决安全问题才能实现自主，而不是相反，”他说。但更广泛的行业方法是从所谓的 1 级驾驶员辅助功能开始。然后，逐步实现一个尚未实现的愿景：5 级汽车或车辆足够先进，可以在所有驾驶条件下（包括生死攸关的情况）做出比人类更好的决策。这就是哲学家和伦理学家长期以来提出的自动驾驶未来面临的基本问题之一。它被称为“电车难题”，基本上可以归结为：在道路上看似双输的情况下，您如何教汽车做出复杂的生死攸关的决定？如果汽车不能做到这一点，您会相信它们会带您的孩子上学或带您的父母去看医生吗？

自动驾驶研究人员表示，该行业远未决定人工智能如何选择谁在即将到来的事故中首当其冲。所以现在包括 Lunn 在内的许多人正在从不同的角度处理这个问题：为什么不首先阻止汽车进入生死攸关的情况？这是自动驾驶的理想主义观点。尽管如此，它仍然是一个起点。毕竟，自动驾驶汽车的全部意义在于创造道路条件，让车辆比人类更有意识，从而更好地预测和预防事故。这可能会避免一些罕见的情况，即人类的生命悬于瞬间决定的平衡之中。人工智能擅长很多，例如知道前方道路上有特定大小的物体。它还可以根据数百万张图像推断出它可能是什么，并随着时间的推移变得更加智能。为汽车开发基于摄像头的感知软件的 Light 首席执行官戴夫格兰南 (Dave Grannan) 表示，人工智能在解决人类尚未达成共识的道德困境方面可能没有多大帮助。 “我认为将这些高风险的决定交给人工智能，任何人都不会感到舒服。我认为，作为一个行业，这就是我们必须考虑的问题，”格兰南说。已经尝试量化人类对人工智能驾驶决策的看法。一种方法来自麻省理工学院 (MIT) 的研究人员，他们进行了一项全球研究，以找到解决电车问题的共识方法。手推车问题是一个有着数十年历史的道德困境，有人必须虚构地决定是否将手推车开向一个人以拯救更多的人。根据 2018 年发表的实验，人们普遍认为人工智能的责任是尽可能多地挽救生命，即使这意味着杀死一些人。

研究人员还发现，人们更喜欢年轻的生命而不是年长的生命，但像中国这样的一些国家却背离了这一点。很明显，道路交通事故仍然是一个主要问题。每年，全世界有超过 100 万人死于道路上。在美国，每年有近 40,000 人因车祸死亡，这一趋势在华盛顿特区地区也有所体现，尽管大流行，但去年的交通死亡人数略有上升。然而，杀死或伤害人的最好方法可能不是你想很快就让你的汽车或制造它的公司做出决定。这就是现在关于高级 AI 的想法：它应该防止导致崩溃的场景，让 AI 永远不必面对谁将死去的选择。人类会因发短信而分心，而汽车不在乎你的朋友要说什么。人类可能会错过被车辆盲点遮挡的物体。激光雷达可以捕捉到这些东西，即使你的眼睛很累，360 度摄像头也应该可以工作。雷达可以从一辆车反弹到另一辆车，并且可能会发现前方减速的汽车比人类更快。这就是所有感官部分，它被输入到自动驾驶汽车的决策系统中。 Lunn 是事故预防技术公司 Provizio 的创始人兼首席执行官。 Provizio的秘方是由高端雷达、激光雷达和摄像头成像组成的“五维”视觉系统。该公司将英特尔视觉处理器和英伟达图形处理器直接构建到其内部雷达传感器上，使汽车能够直接在雷达传感器上运行机器学习算法。 Lunn 说，结果是一堆感知技术比传统的自动驾驶技术看得更远更广，处理道路数据的速度更快。 Swift 预测分析使车辆和驾驶员有更多时间对其他车辆做出反应。创始人在视觉技术领域工作近十年，之前曾与 NASA、通用汽车和波音旗下雷达公司 Arralis 合作，该公司于 2017 年被 Lunn 出售。这家初创公司正在与大型汽车制造商进行谈判，其愿景具有其背后的强大开拓者团队，包括 Scott Thayer 和 Jeff Mishler，他们为谷歌的 Waymo 和优步开发了早期版本的自主技术。

Provizio 的早期投资者包括自动驾驶公司 AutonomouStuff 的创始人 Bobby Hambrick。它还得到了计算机视觉初创公司 Movidius 的创始人之一大卫莫洛尼的支持，英特尔在 2016 年以 4 亿美元的价格收购了该公司。莫洛尼投资是因为 Provizio 的产品“以安全为基础。不是自治。”莫洛尼说：“时间就是安全，（汽车）检测和避免某事的决策时间越多，您可以挽救的生命就越多。” Lunn 认为，汽车行业过早地将自动驾驶作为一种解决方案，早在将人类驾驶员从方程式中移除是安全或可行的很久之前。他表示，人工智能决策将在汽车安全的未来发挥关键作用，但前提是它已被证明可以减少导致撞车的问题。目标是在乘用车中使用技术，以便系统可以向人类驾驶员学习，并在允许 AI 决定特定情况下发生的事情之前了解他们如何做出决定。 “真正的问题将是，在什么时候让人类开车仍然合乎道德，”Lunn 说。 “但在此之前，人工智能必须继续向人类司机学习。 Autonomy 必须确保我们永远不会遇到电车问题。”当天最重要的新闻报道，由邮政编辑策划，每天早上发布。