撞路人/牺牲自己?道德机器考验自动驾驶道德观

1月19日消息 据每日邮报报道，想象一下你是一位突然遭遇刹车失灵的司机。车子在路上无法制止地狂飙，你必须在两难的情况下做出选择：撞向一群老人或者撞向一个推着婴儿车的妇女，你会作何选择？

麻省理工学院将著名的“电车难题”问题制作成网页游戏，通过全球网民的参与来收集人类对此问题的看法。你可以在参与测试，网站提供中文语言界面。

研究人员的目标并不只是为了更好的算法和道德原则来指导自动驾驶汽车，还试图了解社会接纳和使用自动驾驶汽车所需要的代价。

一些汽车制造商和政府机构一直提倡自动驾驶汽车将比人工驾驶更加安全，然而实验中“民意的表现”却与这个安全承诺正好相悖：人们选择让自动驾驶汽车撞向路障，牺牲乘客而拯救路人。

麻省理工学院媒体实验室副教授Iyad Rahwan说：“如果我们不能理解这些心理障碍并通过法规和公共宣传来将之解决，我们就有可能葬送整个行业。”

继去年对美国居民进行调查之后，MIT联合法国图卢兹大学扩大调查范围，探讨不同国家之间不同的反应模式。

MIT研究人员创建了名为“道德机器”的网站，提供情景模拟让用户做出牺牲选择。网站收集了全球160多个国家的“民意”，结果现实了东西方之间的广泛差异。

欧美地区的人们会选择总伤害最小化的功利性原则。

游戏的原型是英国哲学家Philippa Foot在20实际60年代提出的著名思想实验“有轨电车难题“（Trolley problem）。这个思想实验曾让许多人苦恼不已，现在MIT用之考验时下兴起的自动驾驶技术。

就在麻省理工学院在剑桥的媒体实验室5公里之外，第一辆自动驾驶汽车已经在波士顿海湾区进行上路测试。

美国初创无人驾驶公司NuTonomy的首席执行官Karl Iagnemma表示：“我们从一个更实际的工程角度来解决这个问题。”NuTonomy公司总部位于剑桥，目前正在新加坡推出自动驾驶汽车。

Karl Iagnemma认为这项研究中的道德困境是“几乎罕见”的。“无人驾驶汽车的扫描手段无法区分路人的年龄或汽车中的乘客数目。所以即使人们想给自动驾驶汽车增添道德模块，目前的技术能力也还达不到。”

目前工程师已经给汽车编程使其能够做出简易的道德行为，，比如在检测到前方有自行车之后会减速行驶。

Rahwan赞同自动驾驶技术倡导者的看法，认为新技术可以从人为驾驶失误中拯救更多生命。但他担心如果没有一个新的社会公约来解决诸如“电车难题”等道德难题，进步也可能会停滞。当前的交通法律和人类行为规范让司机可以放心在高速路上驾车，而未来将由算法作出对人类生活有重要影响的决定。