哈希力量归集文库路径访问: 首页 > 无人驾驶智能汽车 > 无人自动驾驶

Uber无人车曝出致命漏洞:系统根本无法识别行人过马路

陈思 ☉ 文 收录源:AI前线 2019-11-08 @ 哈希力量

【小哈划重点:正是因为这些短时间内难以逾越的安全漏洞,才让全自动驾驶的实现时间一拖再拖。就连苹果公司联合创始人Steve Wozniak都发出感叹:不得不暂时放弃L5级自动驾驶。】

AI前线导读:2018年,Uber 自动驾驶汽车发生了 全球首例致死车祸,一名女子在过马路的途中被撞身亡。此事随即引发了全球对无人车的关注,尤其是安全问题,Uber也因此不得不停滞其全球无人车测试工作。一年多以后,随着更多细节的公开,Uber 无人车致死案的起因也变得更加复杂。zm6哈希力量 | 消除一切智能鸿沟

先来简单回顾一下案情。zm6哈希力量 | 消除一切智能鸿沟

2018年3月18日晚上10点,美国亚利桑那州坦佩市一名女子被Uber自动驾驶汽车撞伤,之后不幸身亡。zm6哈希力量 | 消除一切智能鸿沟

当地警察部门报告称,事发时,尽管有一名司机(安全员)坐在方向盘后面,但是,这辆车当时正处于自动驾驶模式,行驶车速为每小时38英里,而该地区限速为每小时35英里,而且没有尝试刹车。该车当时正朝北行驶,一名女子正在从距人行横道100码(约91米)的地方从西往东走。zm6哈希力量 | 消除一切智能鸿沟

亚利桑那州坦佩警察局局长Sylvia Moir表示:初步调查显示,在致一名行人死亡的交通事故中,Uber可能不存在过错。他表示,Uber自动驾驶汽车配备的摄像头拍摄的视频显示这次交通 事故过错在受害者本人——今年49岁的 Elaine Herzberg,而非 Uber。“根据受害人横穿马路的方式,无论是有人还是自动驾驶模式,要避免这起交通事故是极其困难的。”zm6哈希力量 | 消除一切智能鸿沟

然而,根据美国国家安全运输委员会(NTSB)周二发布的 官方档案,事情似乎并非如当时的调查所发现的那样。zm6哈希力量 | 消除一切智能鸿沟

Uber无人车曝出“大漏洞”:无法正确识别过马路的行人zm6哈希力量 | 消除一切智能鸿沟

美国国家安全运输委员会周二发布了有关对Uber无人车事故进行了20个月调查的文件。小组将在两周内发布有关该事件的最终报告。zm6哈希力量 | 消除一切智能鸿沟

这份长达40页的文件深入探讨了案件的各种细节。zm6哈希力量 | 消除一切智能鸿沟

文件表明:最明显的错误与软件有关。Uber根本没有训练无人车在人行横道之外识别行人。zm6哈希力量 | 消除一切智能鸿沟

此外,Uber选择关闭测试车辆内置的紧急制动系统,而测试车辆制造商沃尔沃后来得出结论:制动系统原本能大幅降低无人车撞上受害者的速度。zm6哈希力量 | 消除一切智能鸿沟

注:对此有专家表示,从技术上来说,在Uber的软件工作时关闭沃尔沃内置系统的决定是有意义的,因为对于汽车来说,拥有两个软件“主人”是不安全的。zm6哈希力量 | 消除一切智能鸿沟

这很大程度上解释了为什么尽管汽车检测到受害者,且有足够的时间来停车,却还是以每小时38英里的速度撞了上去。zm6哈希力量 | 消除一切智能鸿沟

另外调查显示:当汽车在撞击前5.6秒首次检测到受害者的存在时,竟然将其 识别为车辆,随后又归类为“其他”,最后,无人车将她识别成了“自行车”。zm6哈希力量 | 消除一切智能鸿沟

053.jpgzm6哈希力量 | 消除一切智能鸿沟

NTSB的报告显示:车辆每次尝试进行新的物体识别时,都会重新开始预测该物体的前进方向。所以直到撞击发生1.2 秒钟后,系统才意识到车辆即将撞到行人,并且需要紧急刹车。这触发了Uber的紧急控制机制:系统在确认“已检测到危险”的同时会制动一秒钟,在此期间,安全操作员(Uber最重要的也是最后一道防线)可以控制汽车并进行刹车。zm6哈希力量 | 消除一切智能鸿沟

但遗憾的是,事故发生时安全员并没有在看路。因此,在撞击发生前0.2秒,汽车发出了声音警报,安全员才抓住方向盘,接管了自动驾驶系统。可是为时已晚,致命的撞击还是发生了。zm6哈希力量 | 消除一切智能鸿沟

Uber发言人在一份声明中表示:“对2018年事故感到遗憾”,并强调公司已对其安全计划进行了更改。根据Uber作为调查一部分提交给NTSB的文件,20个月以来。Uber已经改变了其安全驾驶员培训,现在每辆车安排两名安全操作员。该公司还改变了其安全团队的结构,并创建了一个系统,工作人员可以匿名报告安全问题。zm6哈希力量 | 消除一切智能鸿沟

NTSB将于11月19日在华盛顿特区举行一次有关此事件的会议,届时调查人员将发布有关事故的全面报告,详细说明发生了什么以及哪一方需要承担什么责任。研究人员还将向联邦监管机构和Uber等公司提供建议,以便更好地构建防止此类事故的技术。zm6哈希力量 | 消除一切智能鸿沟

多家企业自动驾驶系统存在高危漏洞zm6哈希力量 | 消除一切智能鸿沟

近日伊利诺伊大学工程学院的一份报告也揭露了一些无人车系统存在的安全隐患,涉及百度、英伟达等多家企业的自动驾驶系统。zm6哈希力量 | 消除一切智能鸿沟

该小组分析了2014年至2017年提交的所有安全报告,其中涵盖144辆无人驾驶汽车,累计行驶里程达111.6605万英里。他们发现:在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。zm6哈希力量 | 消除一切智能鸿沟

而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。zm6哈希力量 | 消除一切智能鸿沟

此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷/ 拥护的街区进行无人驾驶测试可能还不够,因为这些软件/硬件故障仍有可能在其他条件下引发问题。zm6哈希力量 | 消除一切智能鸿沟

在对一种已经公开的视音频技术(来自百度Apollo项目)进行测试时,该团队发现了超过500种实例,证明该软件在这些情况下 可能无法解决问题进而导致事故发生。zm6哈希力量 | 消除一切智能鸿沟

全自动驾驶何时能实现?zm6哈希力量 | 消除一切智能鸿沟

英伟达公司架构研究副总裁Steve Keckler 曾表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。”zm6哈希力量 | 消除一切智能鸿沟

正是因为这些短时间内难以逾越的安全漏洞,才让全自动驾驶的实现时间一拖再拖。就连苹果公司联合创始人Steve Wozniak都发出感叹:不得不暂时放弃L5级自动驾驶。zm6哈希力量 | 消除一切智能鸿沟

但是仍然有一些消息令行业振奋。不少科技公司都加入到“造车大军”中来,国内外不少测试地区已经开始上线Robotaxi自动驾驶出租车服务;老牌汽车制造商也纷纷投入精力去做自动驾驶,大众汽车就在前不久宣布成立自动驾驶子公司,目前尚不知道这样的转变能给自动驾驶行业带来什么新动力,但是各方积极的态度还是能让人看到一些好的发展势头。zm6哈希力量 | 消除一切智能鸿沟

不过,热情当头也请不要忘了一年前的这一场教训。无人车不是玩具小车,乘客也好、行人也好,都是鲜活的生命,容不得半点马虎,只有解决了安全问题,才能让更多人相信无人车、选择无人车,在路况尤为复杂的中国,自动驾驶行业的“老司机”们还是要多下一些功夫才是。zm6哈希力量 | 消除一切智能鸿沟



收录源追溯链接或暂略


本文收录后固定可引用URL链接
    http://www.haxililiang.com/jishu/rumen/31177.html


☉ 文库同一主题内容智能推荐 ☉
哈希力量 ☉ 人机智能科普文库