两次杀人，自动驾驶技术之恶

点击上方“CSDN”，选择“置顶公众号”关键时刻，第一时间送达！当 Ryan Kelley 第一次将双手举起离开 Uber 的自动驾驶方向盘时，他感觉自己提前体验到了未来世界。

【编者按】近日，Uber 自动驾驶汽车致死事故成为焦点，Uber 为此全面停止了在美国与加拿大的自动驾驶车辆测试。而在3 月 23 日上午，一名驾驶人驾驶特斯拉 ModelX 型运动型多功能车(SUV)，在加利福尼亚州芒廷维尤一条高速公路行驶，撞上混凝土隔离带，在医院伤重不治。最新车祸发生后，特斯拉公司把事故后果严重性归咎于高速公路上的缓冲栏在先前事故中被撞击变形却没有及时更换。近几年，自动驾驶技术的发展势头可谓相当迅猛，但就在公众们对这项新兴技术展现出极高热情之时，近期这一系列的交通事故犹如当头一棒，让我们开始陷入沉思。以下为正文：2017 年 2 月的 Pittsburgh 市，Uber 在公共道路上测试配有自动驾驶技术的 SUV 车辆已有5 个月。有些车辆已经可以通过 Uber 的定点打车服务应用接待乘客了，这是历史上首次自动驾驶汽车在美国市场上获得通行权。在 9 岁的女儿的鼓励下，Kelley 辞掉了科技服务工作，成为了一名 Uber“开发期的汽车驾驶员”——作为新生的自动驾驶车辆的后备驾驶员。自动驾驶车辆所承担的社会责任非常明确：即有朝一日通过这项技术可以防止每年数以万计的交通死亡事故。Kelley 上周在电话中说：“这是非常先进的技术，人人都想参与其中。”可是，如今在亚利桑那州 Tempe 市内，一辆 Uber 的自动驾驶车辆撞死了一名行人。

图为3 月 18 日在亚利桑那州 Tempe 市的一辆 Uber 自动驾驶车辆拍摄的视频截图。此次意外事件发生在 3 月 18 日晚，根据车内视频显示，在 49 岁的 Elaine Herzberg 推着自行车横穿七道宽的空旷马路时，被该车撞到，而当时车内44 岁的驾驶员  Rafaela Vasquez 正低着头且双手离开了方向盘。在撞到 Herzberg 时，车辆正以每小时约 40 英里的速度行驶。据警方报道，撞击发生时车辆并没有试图刹车的迹象。此次车祸发生之后，Uber 自愿停止了所有测试项目，且亚利桑那州政府已经吊销了其测试许可。虽然正式调查才刚刚开始，但很明显此次撞车事件不仅仅关乎一名行人的性命。这正是自动驾驶车辆支持者和研究人员所担心的事情，也突显了这项新兴技术发展中关键的弱点。每一次失败对机器来说都是一次进步。自动驾驶车辆研究专家认为，Uber 车辆的激光雷达应该能够在碰撞发生前看到 Herzberg，并且车辆应该做出相应的反应。然而，此次车祸引发了另外一个恐怕任何一项调查都很难回答的问题：在 Uber 或其他公司的测试阶段，是否应该由人类作为后备驾驶员安全地驾驶半自动驾驶车辆。研究表明，大多数时候，人类很容易犯错误、分心、而且可能很容易受到安全驾驶功能的引诱。此外，Kelley 与另一位前后备驾驶员在接受采访时表示，尽管安全驾驶及其技术并没有充分准备好，但测试工作已经迫不及待的展开了。Kelley 与一位前 Uber 的 Tempe 市驾驶员（不愿透漏姓名）说，他们的工作环境与想象的不太一样，尽管公司已经在累计里程数上达到了很高的目标，但他们还是需要长期保持警惕且没有激励措施。Kelley 与该 Tempe 的前驾驶员都在今年早些时候因为违反安全规定而遭到了 Uber 的解雇。Kelley 说，在他操纵车辆期间，在停牌前车辆出现了滑动（北美交通法规定：所有车辆遇到停牌时必须停死，确认四周安全后才能起步继续行驶。），他因此而遭到了解雇，他对此表示质疑；Tempe 的另一位驾驶员说，他在车辆行驶期间使用了手机，从而被解雇。这位前驾驶员说，自 2016 年 Uber 推出自动驾驶项目以来，他一直在为 Uber 工作，并为自己达成了“3-4 万安全自动行驶里程”而感到自豪。他说自己不后悔在那里工作。然而，Kelley 坚持认为对他的解雇是个错误的决定，并表示很伤心。这两位前驾驶员同意，他们曾经所处的工作条件导致了疲劳和危险的诱因，可能正是因为这些因素才让 Vasquez 的眼睛离开了道路，且双手离开了方向盘。谈及此次撞击事件时，Kelley 说：“我们已经预料到了这种事情的发生。”[b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b]▌[/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b]“这是她的工作”[/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b]尽管在亚利桑那州被吊销执照，但是 Uber 依然在 Pittsburgh、Tempe、 Phoenix、旧金山和多伦多的公共道路上，通过大约 400 名后备驾驶员和 200 辆汽车，测试其开发的无人驾驶技术。这些数字说明在过去 9 个月内，随着公司转变了测试的重点，Uber 在亚利桑那州无人监管的条件下大幅度招聘。根据当天的情况，有些车辆仍在搭载乘客。 但根据“纽约时报”一篇基于公司泄漏的文件的报道称，Uber 已经调整了大部分自动驾驶车队的工作方针，要求驾驶员努力“累计里程数并收集数据，从而帮助系统变得更可靠”。截止到 2017 年 9 月，该自动驾驶车队已经在其测试的城市内累计行驶超过了一百万英里。到 2017 年 12 月的时候，累积里程数达到了两百万英里，纽约时报称，“根据公司的文档，该公司以更快的速度完成了下一个一百万英里。”根据几篇发表的报道，Uber 的自动驾驶技术在 Tempe 车祸出现之前就已经出现了问题。Buzzfeed 的 Priya Anand 曾报道，一份 Uber 内部的关于在亚利桑那州自动驾驶测试的性能报告显示，有些车辆行驶不足一英里就遇到了麻烦，不得不靠驾驶员控制方向盘并刹车。在 2017 年 3 月 5 日一周内，在没有人为干涉的情况下，车辆在 Tempe 的测试循环中平均行驶里程数仅为 0.67 英里，且平均每行驶 2 英里就会出现“突发状况”，用该公司的话说就是意外，其中包括“刹车过猛、猛然加速、或者让乘客吓一跳的其他行为。”然而，接受 CityLab 采访的两位前驾驶员都表示，虽然没有被起诉，但是 Vasquez 似乎要为此次事故承担很多责任。仪表盘的摄像头显示，当时 Vasquez 并没有在看路，而是低下了头，她的手也离开了方向盘。可以想象，与其他很多分心的司机一样，Vasquez 当时在看手机而没有看路。一名 Tempe 的前驾驶员说，“这是我们最重要的规定之一，座位上不能有手机。（事实上，这正是导致他自己被解雇的原因。）她的工作就是监视并确保机器继续安全驾驶。但是她没有尽职尽责。”根据 Uber 发言人所说，安全驾驶员在上路前会接受一次“有力的”三周的培训、测试以及认证课程。在这个过程中，他们接受了相应的训练，要求随时随地将手放在方向盘附近，以便在汽车无法安全地应对危险的道路状况，或遇到“有人不遵守交规”（比如有行人横闯马路）时，迅速采取控制措施。虽然 Uber 允许驾驶员在车内持有手机，以防遇到紧急情况，但是公司绝对不允许在驾驶期间使用电子设备。公司监视驾驶员行为的主要措施包括：车内仪表盘摄像头的定点检查、自我报告和来自其他驾驶员的报告。据 Uber 发言人称，到目前为止，大约有十几个驾驶员因为使用手机而遭到了解雇。[b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b]▌[/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b]坐在方向盘后面的工作是麻木不仁的测试方案[/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b]开发期车辆驾驶员的工作听起来似乎很容易，毕竟，车辆可以自动完成大部分工作。但两位前驾驶员都描述了坐在方向盘后面高强度的日常工作。全职的驾驶员要求时刻在方向盘后保持警惕长达 8-10 个小时，期间只有 30 分钟的午餐时间。为了让车辆的自动驾驶技术深入掌握 Uber 指定的该部分的城市地图，驾驶员常常在工作期间被指派前往同一个“测试路线”中。前员工表示，在机器学习驾驶期间，时刻注视道路长达几个小时是一份非常辛苦的工作。孤独与千篇一律的重复路线很难让人注意力保持集中，这比驾驶长途卡车或出租车更困难。Kelley 说：“没有人和你说话，你只能听音乐或静静地坐着。”除此之外，你还要长时间保持一个坐姿，而且车辆频繁地紧急刹车，这种车辆驾驶的日常工作对他的健康状况有害，Kelley 说。“Uber 实际上是在要求驾驶员像机器人一样工作。机器人可以重复循环而不会觉得疲惫，但是人类做不到。”前员工表示，在机器学习驾驶期间，时刻注视道路长达几个小时是一份非常辛苦的工作。孤独与千篇一律的重复路线很难让人注意力保持集中，这比驾驶长途卡车或出租车更困难。Kelley 说：“没有人和你说话，你只能听音乐或静静地坐着。”除此之外，你还要长时间保持一个坐姿，而且车辆频繁地紧急刹车，这种车辆驾驶的日常工作对他的健康状况有害，Kelley 说。尽管驾驶员没有里程数上的指标要求，但 Kelley 表示，他的一些经理曾对他施压，要求他跑更长的里程数而放弃休息时间。Uber 发言人表示，公司鼓励驾驶员可以自由休息 10-15 分钟以避免疲劳，而不用承担任何后果。前员工说，尽管如此，随着车辆技术的改进，在道路上放任思绪驰骋（或接电话）的诱惑还是非常大。这位匿名的前安全驾驶员说他曾在 Tempe 发生事故的同一条路上工作过，“有时候，一个小时或两个小时也不需要管方向盘，然后你就会觉得也许我不看路也没关系，因为如果有状况出现，车辆也可以自动处理。”有过几次 Kelley 感觉在车里的时候并不信任自己。他说，到夜班的时候，他可以感觉到自己的注意力减弱，他有种放松自己的冲动，因为大多数时候这项自动驾驶技术都是可靠的，营造了一种虚假的安全感。另一位驾驶员也表示同意。“Uber 实际上是在要求驾驶员像机器人一样工作。机器人可以重复循环而不会觉得疲惫。但是人类做不到。”更重要的是，很多后备驾驶员都是单独工作的。当初 Uber 在 Pittsburgh 开始测试的时候，自动驾驶车辆都配备了两名驾驶员。第二个人坐在副驾驶的位置上，用电脑记录数据并提交给 Uber 的工程师。但在2017年年底，公司将许多车都减少到了“坐在驾驶员位置”上的一个人，驾驶员单独工作。接受 CityLab 采访的两位前驾驶员都表示，去掉第二个人类驾驶员的行为过于仓促，因为这个人在保证安全方面发挥了间接的作用。Kelley 说，副驾驶不仅可以激励“坐在驾驶员位置”上的人，“还可以观察人行道，看看是否有人闯红灯。”Uber 的发言人表示，第二名驾驶员仅限于记录笔记，减少驾驶员的做法经过了公司的深思熟虑，这是自动驾驶技术迈向更高水平过程中的必经阶段。她说：我们之所以做了这样的决定，是因为在测试后，我们觉得我们可以在车辆返回基地后，通过查看日志非实时地完成第二个人的任务——即记录车辆周围的情况，以及驾驶员每次的介入情况。确保车辆安全不应该是乘客席上的驾驶员的工作，这很明显是方向盘后面的驾驶员的首要责任。Kelley 说，即便如此，副驾驶也有很多安全方面的好处，比如多一个机会保持警觉，以及发现道路危险情况的可能性更大。从他的角度看来，即便科技进步了，“车辆依然没有做好去掉第二双眼睛的准备。”[b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b]▌[/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b][/b]