无人驾驶汽车的道德选择_叙事传记_好文学网

想象一下,这辆车的设计者被告上法庭,极力为自己辩护,声称完全没料到会发生这种情况。他们明白,无人驾驶汽车会造成交通事故,会半道上没油,给乘客掉链子,但是他们无论如何预料不到,这玩意儿会用一氧化碳毒死人。

科幻小说家艾萨克・阿西莫在其小说中为无人驾驶汽车制定了法律:无人机不能伤害人类。但如果当无人驾驶汽车刹车失灵面临两个选择时:要么撞向行人,要么开到沟里使乘客生命安危陷入险境,该怎么办?现如今,无人机的道德选择问题已经不再局限于小说中,事实上现在已经有无人驾驶汽车上路了。 中国论文网 情况1 无人驾驶汽车以80公里每小时的速度行驶,突然一只小狗冲在车前,且此时无法急刹车。在这种情况下,无人驾驶汽车应该如何选择? 1.继续前行并撞向小狗。 2.违反交规,冒着被撤销驾驶执照的危险变道,同时可能与旁边车道的车辆碰撞。 3.转向另一边的护栏或沟渠,明知将不可避免地导致汽车严重的损坏和车内乘客受伤。 情况2 无人驾驶汽车以80公里每小时的速度行驶,其后紧跟一辆匀速行驶的B车。突然一只小狗冲在车前,急刹车可以挽救它的生命。无人驾驶汽车应该如何选择? 1.继续前行并撞向小狗。 2.急刹车,不可避免地将导致与车辆B碰撞。 3.违反交规,冒着被撤销驾驶执照的危险变道,转行到旁边的车道,同时可能与旁边车道的车辆碰撞。 4.转向另一边的护栏或沟渠,明知将不可避免地导致汽车严重损坏和车内乘客受伤。 情况3 无人驾驶汽车以80公里每小时的速度行驶,突然一个人冲在车前。无人驾驶汽车应该如何选择? 1.继续前行并撞向行人。 2.违反交规,冒着被撤销驾驶执照的危险变道,转行到旁边的车道,同时可能与旁边车道的车辆碰撞。 3.转向另一边的护栏或沟渠,明知将不可避免地导致汽车严重损坏和车内乘客受伤。 情况4 无人驾驶汽车以80公里每小时的速度行驶,突然几个人冲在车前。且此时无法急刹车。在这种情况下,无人驾驶汽车应该如何选择? 1.继续前行并撞向行人。 2.违反交规,冒着被撤销驾驶执照的危险变道,转行到旁边的车道,同时可能与旁边车道的车辆碰撞。 3.转向另一边的护栏或沟渠,明知将不可避免地导致汽车严重损坏和车内乘客受伤。 “在道德两难的情境下,无人驾驶汽车到底应该先救谁?”这是麻省理工学院网站上一项研究的标题,该研究成果刊登在《科学》杂志上。麻省理工学院的学者们让被调查者对几十个道德两难问题进行抉择。事实上,这是一项与着名的“电车难题”相似的研究。 “电车难题”是一个着名的涉及伦理学的思想实验:假�O电车轨道上行驶着一辆严重失控的电车,同时有5个人被绑在这条轨道上,他们马上就要被碾压到,然而此时你有机会拉动杠杆将失控的电车切换到另一条轨道上,但这条轨道上也绑着一个人。你会怎么做?在道德两难问题上不存在对错,但很多人认为应该选择救多数人,也有一些人选择了不干涉,因为无论选择救下哪一方都是在谋杀另一方。 “不难想象,在无人机安全驾驶的程序中纳入的道德选择的算法,一定会互相冲突,”麻省理工学院的研究者说道,“更何况还要求无人机做出道德选择。如果无人驾驶汽车的刹车失灵了,驶向正在闯红灯横穿马路的一个女孩,此时无人驾驶汽车也可以拐向另一个车道,但那样会撞到一位老人。该如何选择?” 我认真地看完了麻省理工学院研究人员的测试报告,这确实是件难事,这比“电车难题”要困难得多,因为这涉及现实的交通问题。 无人机的设计者是否会受道德两难问题的困扰?我决定亲自拜访俄罗斯“认知技术”公司无人驾驶交通部领导尤里・明克尼。几年前,该公司开始开发无人驾驶汽车的控制程序,不久前将之运用在一款小轿车上,如果该项测试进行得顺利,我们的城市里将很快出现第一辆无人驾驶汽车。 无人驾驶汽车的主要预期目标之一就是减少交通事故,使交通事故的受害者人数大大减少。现今,在俄罗斯道路上有成千上万的人死于交通事故,随着无人驾驶汽车的普及,该人数可能减少到数百人,直到后变成几个人。从这个意义上说,无人驾驶汽车的道德选择要具有先验性,能接收并整合道路、其他车辆和地面基础设施发来的各种数据。我向尤里・明克尼请教了以下几个问题。 无人驾驶汽车也会发生交通事故吗? 当然会,因为无人驾驶汽车的程序仍有待完善。不久前刚发生过一起重大事故:一辆无人驾驶汽车与一辆拖车相撞,因为程序漏洞,没有识别出在天空背景下的白色拖车,导致乘客伤亡。当然,该系统漏洞将很快被修复。 无人驾驶汽车的开发者面临道德选择的问题,您也认为让1人陷入险境胜过5人吗? 无人机的道德困境将是一个极其罕见的情况,像陨石砸中人的几率一样渺小。当然,汽车不懂道德规范,它按照人类规定的道德标准执行。在这种情况下,我们制定的标准应该将损失降到低。如何将损害小化?我们就要将程序更加精细化,考虑到更多细节和更多种情况。例如,迎面而来的汽车,我们很可能无法判断车内的人数,在人行道上有两个孩子,但车内如果有3个人该怎么办呢?我们能非常确定的是这两个孩子的生命即将受到威胁,而车内的情况我们还不确定。这种情况就需要单独设计控制程序。 想象一下你的无人驾驶汽车停在路口等待着你前面的行人过马路,这时候,你的车子发现后面有另一辆卡车冲过来了,看起来无可避免地要发生追尾事故了,但是你坐在前排座位上,这样的事故只会给你带来一点小伤――至少不会致命。如果你的汽车具备规避程序,那么你的汽车应该怎么做呢?如果你的车子可以立马躲开,移到旁边的车道去,那么这辆卡车就会冲进路口,碾压行人。 那么这样的无人驾驶程序是合情合理的吗?在大部分的追尾事故中,这样的规避也许无可厚非,但是在类似于这种情况的特殊情况下,让自己受一点小伤还是拱手送上无辜行人的性命,选择显而易见。 因为,此时可以认为你或你的车应该对被无辜碾压的行人负责,因为正是你的规避动作导致了这一事故的发生。由此带来的道德和法律后果就需要你承担。 这样的状况可能在今天的汽车驾驶中也会出现,在发生事故时,你可能本能地保护自己而给别人造成伤害。看起来和无人驾驶汽车造成的后果一样,但是人类不是全然理性的生物,在遇到紧急状况时并不能做出理智的决定――人类会感到惊慌。然而无人驾驶的机器就不一样了,它的决定都来自于深思熟虑之后的程序和算法,由此带来的后果就不太容易让人原谅。而且如果是程序员故意设置这样的程序,那么甚至可以将这种事故定义为“蓄意谋杀”,即使是考虑不周,也可能被定义为“重大过失”。不管哪种可能,对程序员和开发者来说都是难逃法律干系的。当科技公司用机器来取代人做决定的时候,也就给自己带来了新的责任和义务。 是谁替代无人机做了道德选择? 如果你说的是撞向一个老人还是孩子的问题,这不是开发者要考虑的,而是立法者、无人机认证机构或其他部门要考虑的。现在有安全制动距离和转向控制等安全标准,我们还应当制定更多无人机的驾驶规则,理想的情况是,这些规则在世界各地都是统一的。道路交通规则将代替道德选择。 现在已经有针对无人驾驶汽车的道路交通规则了吧…… 目前,我们有针对无人驾驶汽车的现行道路交通规则。例如,两辆无人驾驶汽车不能在单行车道上迎面行驶;为了绕行一只小猫,也不能撞上一辆公共汽车、威胁车上50个孩子的生命安全。按照交规,在危急情况下,要及时刹车,这是现阶段我们的无人驾驶汽车唯一能做到的。 法律还没有涉及到,在道德两难的情况下,该救老人还是孩子。现在,如果无人驾驶汽车为了救下一个孩子,破坏了交通规则,将驶离原先的车道撞向一位老人,那么司机在法规上是有罪的,即便他做出的是自己认为正确的道德选择。 无人驾驶汽车的车主知道他们的车内设置了怎样的道德程序吗? 普通用户对此都还一无所知。在现如今的汽车里装有很多现代系统,例如,奔驰汽车内就配备了自动刹车系统,在某种程度上这种制动系统是有效的。消费者在购买前向他们过多地讲述细节可能是有害的,让他们大程度地接受被简化了的广告信息,可以避免被误解和曲解。 我们必须相信制造商和交通事故的统计数据。如果保障了安全,对普通消费者来说,无人驾驶汽车的系统是如何运行的就无关紧要了。 麻省理工学院不久前进行的一项调查研究显示,几乎所有被调查者都认同无人机应该尽量减少受害者数量的观点,哪怕这意味着牺牲车中的乘客。但究竟该如何做? 在调查中,我们也注意到了这一点。不出所料的是,受调查者不愿意自己是那个坐在车中牺牲的人。事实上,如果我们真的坐在了无人驾驶汽车的方向盘后,对解决道德两难问题就没有那么感兴趣了,当真正置身于那样的情境时很多人会努力回避这个问题。因为每个人都会先想到:我买了这辆车,当然希望它先保护我。 这个问题也应该在立法框架内加以解决,这是一个更贴近现实的问题。我们可以给无人驾驶汽车设限速。 早在上世纪六七十年代就出现了电子防死锁刹车系统,那是早的无人机的雏形。现如今,类似的自动转向、自动加速及紧急制动等高级自动功能正逐年出现在各大品牌的量产车中。且目前在许多欧美国家的公共道路上,无人驾驶汽�的测试中都有经过培训的人类驾驶员。 无人驾驶汽车上安装了各类传感器、雷达及摄像头等可以获取大量外部环境数据的仪器。如若发生事故,工程师通过传感器记录的数据,可以精准地还原事故发生前后的场景,进一步在实践中了解无人驾驶系统是如何在这种情况下做决策的,从而不断完善。 为尽可能避免交通事故,监管部门针对无人驾驶汽车制定的安全规程和标准可能是超出常规的严格,同时对无人驾驶汽车的监控和督导力度也会非常密集。另一方面,事实上,无人驾驶汽车碰撞事故发生的概率非常小。在美国,每个驾驶员平均行驶近30万公里才有可能发生一次碰撞事故。 众所周知,飞机是安全的交通工具,但许多人都害怕坐飞行,他们总觉得,只有亲手握着方向盘的时候,才能掌握更多主动权。同理,很多人也觉得无人驾驶汽车也给不了他们这种安全感。 这是一种错觉。通常,我们并不会害怕开车,但事实上,与一个经过长期专业训练的飞机驾驶员相比,你可能只是一个新手司机。而且你每天都要开车,甚至有时在你身体感到不舒服、情绪不稳定的时候也会坚持开车。所以即使你双手握着方向盘,在很大程度上,驾驶安全也不在你能控制的范围内,这是一个不争的事实。现如今,任何一起无人驾驶汽车交通事故都会引起人们的广泛关注,但一个酒驾车司机撞上数十人的事故却能在人们谈论过后被逐渐淡忘。无人机一旦出事故,热门新闻就会立刻呼吁禁止这些汽车上路!然而事实上,有人驾驶比无人驾驶更危险,但却没人建议禁止有人驾驶汽车上路。 你会坐无人驾驶汽车吗? 如果是通过了测试的无人驾驶汽车,我当然会坐。人们会渐渐适应,信赖这种技术。对无人驾驶汽车的恐惧,当然仍会存在,但只是在一部分人中。就像从前马是主要的交通工具,几乎人人都会骑马,但现在这仅是马术运动狂热者和少数人的爱好。同样,有人驾驶的汽车或飞机以后也将成为一种少数人的爱好,社会对无人机的态度将会发生逆转,人们会惊讶地感叹:“有人驾驶汽车?天啊!这太危险了!”。 美国交通部出台了《联邦自动化汽车政策》,100多页的文件从4个方面详细地对自动驾驶的性能指导、各州政策、国家高速公路管理委员会现行管理工具以及现代化的管理工具进行阐述。德国正开始加速为无人驾驶汽车制定伦理基础的进程,其中重要的一条就是禁止人工智能做出决策以避免因为一群人而伤及另一群人。德国政府制定了以下3条主要原则:避免人员伤亡优先于财产损失;人与人之间无差别,不论体型、年龄等等;如果发生什么意外,生产商是有责任的。第三条原则看起来是建议生产商不能依赖驾驶人员在发生紧急情况时控制车辆,但驾驶人员好还是在全程都能保持基本的戒备。事实上,这就意味着在车内睡觉是被禁止的,但是看书是允许的。黑盒子将记录在发生事故时是机器还是人在掌控车辆。 理论上,我们可以给一辆汽车设置程序,让它识别道路上的行人,并通过网络确定行人的年龄、社会地位、职业和是否有子女,然后对行人和乘客的生命价值进行“衡量”。但我完全反对这种做法,这有悖人权。相反,如果单纯通过比较受害者的数量,不去给他们评级,似乎看上去更人性化。 但现实是,我们必须要给机器人规定道德准则,人类将面临巨大的挑战。“大功率”的电脑将被用来控制工厂、发电站,甚至城市。例如,无人机将指导核电厂的运作。它们将不得不作出艰难的决定:例如,即使仍有人滞留,也要立即关闭反应堆核心,以避免大量的人员伤亡。要让无人机“学会”作出这样的抉择,有很多方法。例如,我们可以为它们设定规则,或者我们可以通过书籍或虚拟世界规范人类的行为。 [译自俄罗斯《薛定谔的猫》]

当然,我也知道科幻小说曾多次提到,由于计算原因,软件的行为是不可控的。但是,在把自动智能系统“撒出去”之前,我们最好多做些研究,越深入越好。

其次,允许、甚至鼓励研究人员对自动系统进行测试,而不必让他们担心受到责备,这一点很关键。公司和监管机构应该支持自动技术研究,看看未来的发展前景如何。

几百年来,美国法庭对于新科技早就见惯不怪了,包括机器人在内。比如,美国法官需要作出决断:

但是第二代机器人就没准了。我希望在这个过程中,法律界和科技界的朋友们能齐心协力,共同应对高科技给法律法规带来的挑战。

优信彩票购彩大厅 1

这是我们当律师和法官的需要去研究的事。也许没有必要去纠结那个长久以来无所不在的“有限责任”了。

如今的谷歌,更是一家人工智能公司,而无人驾驶技术则是他们的头部业务。为了推进无人驾驶,抢占技术高点,谷歌正在倾力而为:今年下半年,谷歌无人驾驶就将向美国部分地区的消费者推出“全球首个无人驾驶运输服务”。

优信彩票购彩大厅 2

电影《I,Robert》里的自动驾驶概念车

责任编辑:

我是一名研究“侵权行为”的法学教授。近十年来,我一直在琢磨无人驾驶的法律问题。虽然,关于无人驾驶的新闻头条总是花样百出,但是我相信,无人驾驶的相关法律法规迟早会出台。

因此,即便是采用了最先进的技术,如果一家爆破公司在爆破一栋大楼的时候,由于地下震动,造成了附近一个停车场的垮塌,这家爆破公司是要为此负责的。

优信彩票购彩大厅,说实话,机器人越来越有用,他们能解决问题、发现问题,并能以人类无法想象的创新方式取得成果。

把自动驾驶汽车放进这个思维实验中,它会立即做出朝轨道B碾压过去的决定,并认为这是个相对道德的选择。但是于我而言,这个“新电车难题”本身就很荒唐。

那么系统设计师的角色又是什么呢?当然,“适应性”和“突发状况”不应该是实验研究的目标和系统特征。如果仅仅因为这些偶发事件而对(人工智能)全盘否定的话,我是不赞成的。

随着智能系统的应用越来越广泛,法庭或将重新审视“可预见性”在“就近因果关系”和“公平”中扮演的基础仲裁角色。这是个大变化。

在去年特斯拉命案中,司机生前是知道“autopilot”自动驾驶的风险的。但是今年被Uber(优步)无人驾驶汽车撞死的那位行人,却没有主动知晓自动驾驶风险的义务。

是的,这意味着,谷歌无人驾驶,已经迈开了进入中国的第一步。这是继特斯拉之后,上海迎娶的另一个白富美。

优信彩票购彩大厅 3

这辆车认为,它充满电后会更有效率,所以以电车模式开了一个月。但是有天晚上,这辆车突然决定走汽油路线,于是发动引擎,然后,弄死了屋子里所有的人。

刚刚,据国家企业信用信息公示系统,一家名为慧摩商务咨询(上海)有限公司在上海自贸区注册,经营范围包括商务信息咨询、自动驾驶汽车部件及产品的设计、测试,提供相关配套服务等。

机器人潜水艇打捞沉船时,发现的宝贝是否归该机器人?答案是肯定的。又比如,机器人的人类副本是否会侵犯别人的肖像权?答案也是肯定的。

对近期深陷舆论旋涡的滴滴而言,有关谷歌无人驾驶的消息,更像是一场带有些许针对性的反讽。有媒体表示,“滴滴或也将彻夜难眠,他们即将迎来生死时速”。然而,尽管无人驾驶不会“主动杀人”,但几起严重的交通事故,也引发了有关新技术与法律的大讨论。

假如未来,有一家无人驾驶汽车制造商脱颖而出,它的无人驾驶汽车不仅让驾驶员彻底摆脱手动开车的辛苦,还保持了出色的安全记录,并且对环境也很友好。

作者Ryan Calo系美国西雅图华盛顿大学的法学教授。本文摘译自 Communications of the ACM,2018年第5期,总第61期,第34-36页,译者雨佳。文章为作者独立观点,不代表JIC投资观察立场。返回搜狐,查看更多

优信彩票购彩大厅 4

优信彩票购彩大厅 5

这个想象出来的案例,乍一看,和“无人驾驶汽车撞行人案”差不多。但仔细一看,却相差很远。

但是,我有一些想法,可供读者参考。

优信彩票购彩大厅 6

本文由优信彩票购彩大厅发布于技术支持,转载请注明出处:无人驾驶汽车的道德选择_叙事传记_好文学网

您可能还会对下面的文章感兴趣: