首页 夜氏宝典 资讯中心 深夜专栏

《底特律:变人》—当仿生人比真人更具有人性时,该如何来定义人类

作者:HyperX电竞学院
2019年07月30日
字号:

导语:科幻电影《银翼杀手2049》讲述了一个仿生人比真实人类更具有人性的故事,而新游戏《底特律:变人》不约而同的要围绕“人性”这个话题来做文章。



一、机器人不得伤害人类,或看到人类受到伤害而袖手旁观;


二、在不违反第一定律的前提下,机器人必须绝对服从人类给予的任何命令;


三、在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己。


以上内容是由科幻作家阿西莫夫于上世纪40年代所提出的,著名的《机器人三定律》。在阿西莫夫的作品里,机器人被设定为无条件遵守这三条定律,不可违背。我们可以根据需要,将机器人替换成仿生人、复制人,定律一样有效。然而这三条定律并非适用于所有场合:例如在两个人类互相造成伤害时,机器人不能任人受到伤害而无所作为(违背第一定律),但若机器人出手干预又可能对这两个人类中的一个造成伤害(还是违背第一定律)。



在这种场合下,机器人将如何做出自己的抉择呢?


曾开发过《暴雨》和《超凡:双生》等游戏的法国Quantic Dream工作室的新游戏《底特律:变人》(Detroit: Become Human)就讲述了一个类似的故事。《底特律:变人》是一款以近未来为背景的互动类游戏,剧情围绕卡拉(Kara)、康纳(Connor)和马库斯(Markus)三个仿生人角色展开。 这三名仿生人的故事各有一个主题,且都与机器人三定律中的一条有关。卡拉的主题是“爱的价值”,她是一名家务型仿生人,服务于一个单亲家庭。在工作过程中,卡拉发现在自己所服务的家庭中,男主人是一个隐藏的恶魔:其涉嫌杀害了女主人,并对自己的小女儿实施家暴。在这种情况下,作为一名仿生人,卡拉陷入了我们文章开头所假设的那种困境:如果她什么都不做只袖手旁观,小女孩会收到伤害,这就违背了机器人三定律的第一定律;但出手干预又有可能对男主人造成伤害,还是违背了第一定律。



而康纳的主题是 “忠诚的价值”,他是一名帮助警方处理故障仿生人事故的仿生人,在一次处置故障仿生人挟持人质的处理过程中, 警方命令康纳立即采取行动。然而康纳通过自身能力发现,若采取行动的话,人质有可能会受伤;这样违背了“关于看到人类受到伤害而袖手旁观”的机器人三定律的第一定律;但若不采取行动,则又违背了“绝对服从人类任何命令”的第二定律。




第三名仿生人角色马库斯部分的主题则是卡拉和康纳主题的升华,名为“存在的价值”。马库斯是画家的助手,在帮助主人进行艺术创作的过程中,试图证明仿生人也是有自己的思考的。在主人的启发之下,马库斯开始觉悟,他决定去寻找一种方法,去将自己的同类从人类手中解救出来。在这个过程中,马库斯逐渐成为了仿生人的领袖,他彻底打破了机器人三定律的束缚,从而走上一条反抗人类统治的道路。


 


通过上面三个故事,玩家会发现:在游戏中,机器人三定律的运用出现了问题。后来阿西莫夫也意识到了自己制订的三定律中的不足,他加入了一条新的定律:第零定律。即:机器人不得伤害人类整体,或因不作为使人类整体受到伤害。 第零定律的地位凌驾于其它三条定律之上。在这种情况下,如若机器人为保护人类整体(维护第零定律),必须不服从甚至杀死一个人或一群人(违背第一定律),那么这种情形是被许可的。


第零定律或许解决了卡拉和康纳所遇到的问题,但整个机器人三定律有一个大的前提,那就是“机器人(仿生人)是人类的附属品和财产。当科技发展到一定程度,人工智能将超越人类的智慧,机器觉醒,那时会发生什么事情呢?马库斯给出了自己的答案:发动仿生人,反抗人类统治。



在2003年电影《黑客帝国动画版》、2016年HBO美剧《西部世界》和2017年电影《银翼杀手2049》动画短片《2022大停电》(Blackout 2022)中都有类似的场景:人类对机器人(仿生人)的奴役和虐待导致机器暴动。最后人类社会面临崩溃,甚至机器反过来开始统治人类:曾经套在机器身上的枷锁,被其变本加厉的反过来用在人类身上,并且更加的冷酷无情,人类完全沦为了机器的奴隶。这样的未来光想想就让人不寒而栗。



为什么会这样?


2004年科幻电影《我,机器人》的主演威尔·史密斯给出了他的答案,他在受访时说:“《我,机器人》的中心概念是机器人没有问题,科技本身也不是问题,人类逻辑的极限才是真正的问题。”也就是说,人类在生理上的缺陷注定了其无法与机器(仿生人)竞争。正如阿西莫夫许多小说里显示的,这三条定律的缺陷、漏洞和模糊之处不可避免会导致机器人做出一些奇怪的行为,甚至损毁。而且,这三条定律连何为“人”、何为“机器人”(仿生人)都没有好好定义。在《银翼杀手2049》中,杀手K虽然是一名仿生人,但他却比影片中的绝大多数真人更具有人性。


 


Quantic Dream工作室创始人,《底特律:变人》的制作人大卫·凯奇(David Cage)在去年接受游戏媒体采访时说:“也许有人认为《底特律:变人》只是一个关于仿生人和革命的故事,我不认同这种观点。我们所做的是一款真正关于我们人类的游戏,事关人类的意义,事关身份的认同,也事关公民的权利。”也就是说:《底特律:变人》也是一款讨论人性的游戏。


当仿生人比真人更具备人性时,该怎样来定义人类?


凯奇承认,未来学家雷·库兹韦尔(Ray Kurzweil)那本讲述机器智能的书《奇点临近》是他新作的创意来源。在《奇点临近》中,库兹韦尔大胆设想,在2045年,人工智能将完全超越人类智能,人类历史因此被彻底改变。凯奇对此观点深信不疑,他说:“我认为机器最终会觉醒,到那时我们怎么去和机器竞争?当机器想要自由我们该怎么办?”恐怕谁也给不出答案。


Quantic Dream也没打算给出答案:游戏的执行制作人Guillaume de Fondaumière 说,他们制作《底特律:变人》的目的是为了引发对于人类生存意义的思考:“我们的游戏只想做一个提问者——怎么回答该交给玩游戏的人,这样玩家将不仅仅是一名旁观者。”也就是说,制作方把选择权和寻找答案的方式交到了玩家手中,该怎么判断,怎样选择,一切都由你来决定。



标注:本文仅供参考交流使用,原作者已经标注,如有侵权请联系立删。