Uber无人测试车撞死行人内幕曝光:事发前安全性曾受强烈质疑
划重点
- 今年3月18日,Uber的无人驾驶测试车在美国撞倒一名行人并致其死亡,这是涉及无人驾驶汽车的首起行人死亡事件。
- 内部员工透露,工程师们被告知要创造一种平稳的乘坐体验,因此在安全方面做出了危险的妥协。
- 激励和优先事项迫使团队快速行动,宣称取得进展,并取悦新任首席执行官,各种警告信号要么被忽视,要么没有得到足够重视。
- 许多员工指出,事故发生后,无人汽车部门大部分主管仍然在职,其中有些人甚至得到了提拔。他们称该部门的基本文化并没有真正改变。
【腾讯科技编者按】今年3月18日,网约车巨头Uber的无人驾驶测试车在美国亚利桑那州坦佩市撞倒一名行人并致其死亡,这是涉及无人驾驶汽车的首起行人死亡事件。
在Uber准备重新上路测试其无人驾驶汽车之际,美国主流网络媒体BI采访了该公司多名现任和前任员工,并查看了内部文件。这些员工和文件描述了诸多内幕细节,包括Uber旗下无人驾驶汽车部门ATG内部广泛存在的管理紊乱、无所不在的内讧和追赶竞争对手面临的压力等。
消息人士透露称,在事故发生前,Uber工程师们曾被迫“调整”无人驾驶汽车,使其行驶更平稳,以便为年底计划好的大型演示做准备,但这意味着汽车无法对看到的一切做出恰当反应。有员工在接受采访时表示:“这可能会导致蹒跚学步的孩子死亡。尽管这种情况没有出现,但早晚会不可避免地发生。”许多员工说,这些问题至今依然存在。
以下为BI文章摘要:
在几乎没有月光的周日晚上,49岁的伊莱恩·赫茨伯格(Elaine Herzberg)推着她的粉色自行车走进亚利桑那州坦佩市密尔路(Mill Road)的一段繁忙路段。几秒钟后,Uber无人驾驶的沃尔沃SUV接近63公里的时速撞上了她,并致其死亡。
车内,只有安全司机拉斐拉·瓦斯奎兹(Rafaela Vasquez)在独自工作,而且她的目光未曾聚焦在路上,也没有按照工作要求的那样在iPad应用程序中输入数据。她正在手机上收看Hulu节目。直到汽车撞倒赫茨伯格时,她才抬起头来,抓住了方向盘。
美国国家安全运输委员会(NSTB)提交的初步报告、警方报告以及当时的视频,还原了3月18日致命事件的细节。这起交通事故震惊了Uber无人驾驶汽车部门ATG的所有人(约1100名员工)。几名员工表示,员工们在聊天室和大厅里纷纷议论他们的恐惧之情。
无人驾驶汽车被宣传为比人类驾驶更安全,能以计算机的速度观察和做出反应,但Uber的汽车却卷入了史上第一起无人驾驶汽车致使行人死亡事件。几名员工称,当他们得知赫茨伯格是个乱穿马路、无家可归的女人,且她的血液检测冰毒和大麻呈阳性时,许多人抓住这些细节来为这场悲剧辩解。
NTSB的调查人员正在检查发生致命事故的Uber无人驾驶汽车
当员工们发现瓦斯奎兹在看Hulu时,他们发现Uber雇佣她之前,瓦斯奎兹已被判犯有重罪,并对她进行了诋毁。一名员工称:“人们把一切都归咎于她。”但内部人士表示,瓦斯奎兹和赫茨伯格并不是造成这次致命事故的唯一因素,还有第三方应该受到指责,即汽车本身,以及制造它的人做出的一系列可疑决定。
NSTB报告称,这辆汽车在撞到赫茨伯格前六秒就发现了她,而且在撞到她前一秒就知道应该紧急刹车,但它却没有那样做。知情人士称,这款车的设计者禁止在紧急情况下刹车,即使它发现了“粘糊糊的东西”——Uber对人或动物的称呼。NSTB的报告称,Uber故意让无人驾驶汽车刹车失灵。报告发现,这款车的设计者还关闭了沃尔沃自己的紧急刹车设置。BI看到的电子邮件显示,他们甚至修改了汽车的转弯能力。
关于赫茨伯格的死,大多数文章都集中在司机的过失上。但到目前为止,关于工程师和高管为何关闭了汽车的自动刹车能力,还没有太多信息。内部人士透露,这是公司内部混乱的结果,至少部分动机是为了取悦新老板。BI采访了Uber无人驾驶汽车部门的七名现任和前任雇员,并查看了与无人驾驶汽车计划和事故有关的内部电子邮件、会议记录以及其他文件。
BI了解到,这些内部人士声称,尽管对这款测试车的安全性发出了许多警告,但在事故发生前的几个月里,Uber高管团队有更紧迫的任务,即打造能为Uber新任首席执行官达拉·科斯罗萨希(Dara Khosrowshahi)留下深刻印象的演示,以及给他带来愉快的“乘坐体验”。
这些员工和文件描绘了这样一幅画面:
——ATG高管担心科斯罗萨希取消这个项目,结束他们高薪工作,为此他们希望向他展示项目进展;
——据称工程师们被告知要创造一种平稳的乘坐体验,因此在安全方面做出了危险的妥协;
——激励和优先事项迫使团队快速行动,宣称取得进展,并取悦新任首席执行官;
——各种警告信号要么被忽视,要么没有得到足够重视;
——ATG内部管理混乱,内讧无处不在,以至于似乎没人知道其他人在做什么。
3月18日事故发生后,Uber停止了无人车测试。不过该公司已经在制定新的计划,以便让汽车重新上路。优步正试图赶上Waymo和通用汽车等竞争对手,后者从未停止过道路测试。
“可能会杀死蹒跚学步的孩子”
对有些Uber内部人士来说,赫茨伯格的死是无人驾驶汽车的悲剧结局,但这并不令人意外,因为这辆汽车本不应该于夜间在公路上行驶。
Uber无人驾驶的沃尔沃SUV
据知情人士透露,ATG目前每年的预算为6亿美元(也有人称10亿美元)。尽管Uber称其“对ATG团队正在从事的工作充满信心”以重返正轨,但其在各方面都远远落后于无人驾驶汽车市场的领先者。所有受访员工表示,事故发生时,工程师们知道这辆车的无人驾驶软件还不成熟,在各种情况下都无法识别或预测包括行人在内的各种物体的路径。
例如,两名知情人士证实,这辆车在“近距离感应”方面装备欠佳,因此它并非总是能探测到距离几米以内的物体。一名软件开发员称:“这可能会导致一个在停车场蹒跚学步的孩子死亡。这是一场没有发生、但可能发生的事故。”他们还称,每周,软件团队的领导者都会听取数百个问题的简报,而且问题并不总是那么容易解决。
例如,树枝问题。在由软件副总裁乔恩·托马森(Jon Thomason)负责优先处理问题的定期“分诊”会议上,树枝问题连续数周出现。许多人称,树枝在路上制造阴影,有时汽车会误认为这是物理障碍。
ATG部门软件副总裁乔恩·托马森(Jon Thomason)
一位工程师解释说,Uber的软件“会把它们归类为实际在移动的物体,而这些汽车会据此做些愚蠢的事情,比如停下来或呼叫远程援助。或者软件可能会崩溃,脱离无人驾驶模式。这是我们试图解决的一个普遍问题。”另一名工程师回忆说,在一次会议上,托马森勃然大怒,要求解决这个问题。但Uber发言人否认了其汽车受困于树枝阴影的说法,并称汽车停在路上是受到真的树枝所阻。
与此同时,另一名员工也表示,成堆的树叶可能会把汽车弄晕。第三位员工则称,他们还努力来教汽车识别树叶。员工们还表示,汽车并不总是能够预测行人的路径。BI看到的电子邮件显示,当车辆行驶的车道部分堵塞时,汽车软件并不总是知道该怎么办。最重要的是,Uber的一些工程师表示,他们认为这些汽车没有在更安全的环境中进行彻底的测试。他们想要更好的模拟软件,更频繁地使用。
Uber的无人驾驶汽车
在事故发生之前,Uber就开始着手解决这个问题。今年2月,该公司聘请了一位受人尊敬的模拟工程师。最近,Uber公开承诺,当它获准重新上路时,将进行更多的模拟测试。在赫茨伯格出事之前,该公司称没有进行太多离线测试,也就是现在被称为模拟测试的方法。除了模拟,测试无人驾驶汽车的另一种方法是在测试跑道上。
但Uber员工称,Uber的跑道测试工作缺乏组织性,每个项目团队都按照自己的方式做事,没有人监督整体测试。这种全面监管是Uber表示目前正在解决的问题之一。然而,即便是在悲剧发生几个月后的今天,这些员工仍表示,严格的、全面的安全测试仍然不尽如人意。安全团队主要致力于“分类”,即列出与安全相关的术语列表,而不是确保汽车在每种设置中都能可靠地运行。
科斯罗萨希的搭乘体验
当员工们在工作时,他们敏锐地意识到部门领导正计划接待一位非常重要的乘客,即Uber新任首席执行官科斯罗萨希。科斯罗萨希于2017年夏天入职,此前Uber遭受了一系列丑闻打击,从性骚扰指控到令人厌恶的商业行为。无人驾驶汽车部门也未能幸免,其领导人和明星工程师安东尼·莱万多夫斯基(Anthony Levandowski)于2017年4月因被指侵犯知识产权而下台。
这个部门的现任领导人埃里克·梅霍费尔(Eric Meyhofer)在科斯罗萨希被聘用前五个月,接替了来万多夫斯基的职位。尽管Uber在无人驾驶汽车方面投入巨资,但它的项目被认为远远落后于竞争对手。有报道推测称,科斯罗萨希有益应该关闭它。
Uber新任首席执行官达拉·科斯罗萨希(Dara Khosrowshahi)
消息人士和文件显示,梅霍费尔和他的高管团队并没有忽视这种可能性,他们希望通过展示公司的进展给新任CEO留下深刻印象。他们计划在4月左右为科斯罗萨希举行一次演示之旅,ATG需要发出自己的声音。这个赌注很高。如果ATG失败,领导团队的高薪工作可能就此结束。多名员工表示,高级工程师的薪酬超过40万美元,主管薪酬(包括工资、奖金和股票期权)高达100万美元。
领导层的声誉也岌岌可危。熟悉梅霍费尔的人士解释说,他们不想永远被人知道是谁导致Uber广为人知的项目被关闭。在公司内部,各部门的领导都做好了充分的准备,以完成“发声”工作。
糟糕的体验
作为全球最大的网约车服务公司,Uber明白给客户提供良好体验的必要性。如果乘客们打算接受无人驾驶汽车,那么这段旅程就不能让人觉得太糟糕。因此,在科斯罗萨希上任1个月后,产品团队高管埃里克·汉森(Eric Hansen)就发布了“产品需求文件”,详细说明了ATG的新目标。
Uber的无人驾驶汽车
该文件要求工程师考虑“乘客体验指标”,并要求年终大型演示只能有一次“糟糕体验”。考虑到汽车无人驾驶软件在当时是多么的不成熟,这是个非常高的标准。有些专注于解决安全相关问题的工程师被吓呆了。消息人士解释说,工程师可以“调整”无人驾驶汽车,使其驾驶更加顺畅,但使用的是不成熟的软件,这意味着不允许汽车对它看到的一切做出反应,无论真实与否。这是相当危险的。
一名沮丧的工程师这样假设:“如果你把一个人放到车里,那个人死亡的几率是12%,你就不应该优先讨论任何关于用户体验的事情,而是专注于安全事宜。”在产品团队分发讨论“乘客体验指标”和限制“糟糕体验”的文档两天后,另一封邮件发出。这是几位ATG工程师的作品,他们称正在关闭无人驾驶汽车自行做出紧急决定的能力,比如猛踩刹车或急转弯。他们的理由是加强安全。
因此,他们决定限制汽车的行动,完全依靠安全驾驶员的警觉性。然而当前所处的环境是,汽车的软件还不足以做出紧急决定。有Uber员工指出,如果把汽车的反应限制在更温和的范围内,或许还能带来更顺畅的驾驶体验。几周后,他们又让这辆车有了更多的转向能力,但并没有恢复自主刹车能力。
Uber无人驾驶汽车的工作原理
最后的警告
最后的警告是在悲剧发生前几天发出的,其首席安全驾驶员给梅霍费尔发了电子邮件,列出了一长串对安全驾驶员项目管理不善和工作条件的不满。Uber无人驾驶汽车部门的一名前工程师表示:“司机们觉得他们的才能没有得到很好的利用。他们被要求兜圈子,但他们的反馈并没有改变什么。”
司机们抱怨说,他们在测试和观察哪些方面的交流不够充分,而且工作时间长。但最大的不满源自Uber几个月前决定开始使用一个司机,而不是两个。这一决定让ATG能够接触到更多的司机,这样公司就可以记录更多的里程,而不必雇佣双倍的司机。第二个司机过去负责将汽车的问题记录到iPad应用程序中,并处理汽车识别路上物体的请求。
现在,车上的司机需要负责所有这些工作。这不仅消除了两个司机的安全冗余,还要求司机主动做记录和标记,而不是盯着路看,公司内部许多人认为这是不安全的,这就像分心驾驶。如果梅霍费尔认真对待这位安全司机的愤怒电子邮件,那么悲剧可能就不会发生了。Uber现在表示,当其无人驾驶汽车再次上路时,该公司计划恢复两个安全驾驶员的配置。
“有毒文化”
有些员工认为,ATG的领导正在推动一种“乘车体验”,让科斯罗萨希相信这辆车比演示的更有前途。但另一些人说,错误没有那么明显。一位与梅霍费尔关系密切的工程师表示,真正的问题在于,在他的领导下,“沟通不畅,很多团队都在做重复性的工作。他们不知道其他团队取得进展,只知道做自己的事情。这会产生多米诺效应。所有这些都创建了一个不安全的系统。”
Uber旗下ATG部门负责人埃里克·梅霍费尔(Eric Meyhofer)
接受采访的每个人都称ATG为“有毒文化部门”,他们谈到了难以承受的工作量、喜欢背后中伤的队友和糟糕的管理。BI看到的文件显示,领导层意识到了这些问题,托马森曾坦承:“我们多次听说,ATG不是个有趣的工作场所,这种反馈对我来说令人困惑。”
虽然有些人不喜欢梅霍费尔,认为如果他受到挑战,可能会因此而展开报复,但也有人说他是个心地善良的人,他的头脑中充满了善意。一名工程师称:“他是个专注于硬件的人,但无人驾驶汽车的大脑却是软件。这意味着梅霍费尔缺乏对软件领域的理解和专业知识,因此他可能无法权衡两种选择,并决定最佳行动方案。”
大部分受访者认为,部分问题在于Uber的无人驾驶汽车部门由来自两个截然不同的地点、有着完全不同工程文化背景的团队组成。Uber的匹兹堡团队由卡内基梅隆大学国家机器人工程中心(NREC)的专家组成,在旧金山则有另一个团队。旧金山的人员抱怨说,NREC是一群没有实际经验、没有产品开发经验的学者,他们因为是梅霍费尔的密友而保住了高薪工作。而NREC团队认为,旧金山的工程师们牢骚满腹、忘恩负义。
除了内部斗争之外,ATG还有一种奖励机制,奖励那些快速完成里程碑式的任务、仔细测试的员工。一名前工程师表示:“ATG的态度是不惜一切代价得到巨额奖金。我发誓,所有导致不良行为的因素都与奖金有关。”
在安全报告中,在事故发生前,Uber称ATG通过某些方式衡量其项目的进展,从而产生了“反常的激励”。具体来说,ATG认为汽车在没有人类帮助的情况下行驶的距离越长,它就会变得越聪明。但现在整个行业都意识到,这是一种衡量汽车驾驶性能过于简单的方法。如果管理层过于关注这一指标,员工可能会感受到巨大压力,进而不去在必要时接管汽车。
从那以后,Uber承诺要寻找其他方法来衡量性能改善,并称里程碑式的奖金仅限于少数人,最近已被取消。在内部,有些人仍然对无人驾驶部门感到失望。一名软件开发人员说:“在ATG,我们拒绝承担责任。他们把责任归咎于那个无家可归的女士,那个有犯罪记录的拉丁裔安全驾驶员,尽管我们都知道观念已经被打破了。”
Uber始终在利用沃尔沃改装车测试其无人驾驶技术
这名工程师说:“但是我们的车撞了人。而ATG内部没有人承认‘我们做错了什么,我们应该改变这些行为。’”许多员工指出,ATG的大部分主管仍然在梅霍夫手下,其中有些人甚至得到了提拔。他们声称该部门的基本文化并没有真正改变。不过Uber发言人表示,该公司已经审查了安全程序,做出了很多改变,并承诺会做出更多改变。
Uber在本月公布的一系列文件中称:“目前,整个团队都致力于以让无人驾驶汽车以安全、负责任的方式返回道路上。我们对他们为实现这一目标所做的工作充满信心。我们最近迈出了重要的一步,公布了我们的自愿安全自我评估(Voluntary Safety Self-Assessment)。我们的团队仍致力于实施关键的安全改进,只有在这些改进得到实施,并得到宾州交通部的授权后,我们才打算恢复公路上的自动驾驶测试。”
由于3月份发生的致命事故,科斯罗萨希的“搭乘之旅”从来没有发生过,至少没有在任何公共道路上进行过。但这种情况可能会改变。员工们说,梅霍费尔和他最亲密的助手仍负责管理ATG,并希望其无人驾驶汽车尽快上路。他们希望在年底前实现这个目标,甚至在本月晚些时候。BI看到的文件显示,在9月份的会议上,该团队被告知:“我们需要在2019年前公开展示某些新东西。”(编译/金鹿)
美国Business Insider作品的中文相关权益归腾讯公司独家所有。未经授权,不得转载、摘编等。微信公众号:BI中文站。