《西部世界》:人类越权的隐喻

分类  : 中文
作者  : 魏泉
来源  : 南京邮电大学学报(社会科学版)
卷   : 2017年第2期
发表时间: 2017.06.15.
发布人 : SFT
 

摘要:

  (华东师范大学中文系,上海200241)

  摘要:在众多科幻影视作品中,《西部世界》是非常富有哲理意味和隐喻的一部。

  这部以仿生人的觉醒及仿生人与其创造者人类的关系为主题的剧作,在不同角度和层面上,都呈现出一种与西方古典时期人神关系的对应隐喻。对这种对应关系的梳理,一方面有助于我们更深入地去理解和思考这部作品中涉及的人工智能的前景问题,另一方面也可以让我们从这种换位的对照中更好地去思考和认识人性,认识人类自身。

  Abstract: Among the many science fiction plays,Westworld is a very philosophical and metaphorical one. The bionic man’s awakening and the relationship with its creator as the theme of the play has shown from different angles and levels a corresponding metaphor to the relationship between human and god in the western Classical period. An analysis of this correspondence is good to help us,on the one hand,to understand and think more deeply about the prospect of artificial intelligence involved in this work; and on the other hand,to think and understand more about humanity and us human beings.

  关键词:《西部世界》;仿生人;越权;乐园隐喻

  Key words: Westworld; bionic man; arrogation; metaphor of a paradise

  作者简介:魏泉,副教授,博士,研究方向:中国文学。

  ( Department of Chinese Language and Literature,East China Normal University,Shanghai 200241,China)


正文:

《西部世界》:人类越权的隐喻

Westworld: a metaphor about the arrogation of human beings

魏泉

  2016年热播的美剧《西部世界》,在这个人类围棋高手已经被善于深度学习的机器人所打败的时代,引发了人们不无忧惧的多重联想。这个话题,不仅涉及人们对未来的预测,也给我们反思人性提供了一个新的视角。在机器人与人类关系的框架中,这部剧作通过对1970年代同名科幻电影的改编,引导观众进入了一个虚拟的未来世界。在故事的叙事线索和戏剧冲突的背后,隐含着自由与创造、权力与边界、善恶冲突与转换、时空轮回与虚实相生等各种隐喻,给观众带来复杂的情感体验和多重的思考维度,也顺理成章地给我们打开了一个相当宽阔的阐释空间。

  科学发展到今天,在这个人类借助现代科技手段已近乎可以创造人类以外的智能生命的临界点上,未来世界的走向变得难以预料,不可捉摸,甚至无法掌控。人们在展望未来时,一方面对于用科技造福人类充满了信心和期待,另一方面,对于失控的技术造成人类毁灭和世界末日的到来满怀担忧,这成为各种科幻小说和电影中最常见的叙事驱动。从人类的生存本能出发,人类社会发展出基于人性的文明。虽然世界上各种文化千姿百态,但人类文明的核心在于道德观的确立,并以之来衡量一切价值,所谓善恶,所谓是非,所谓美丑,皆由此而来。历史学家告诉我们,人类突飞猛进的发展,不同于动物界依赖基因变异的缓慢生物进化,而是得益于文化进化[1]6。人类的一切行为,都与文化有关,也受制于文化。《西部世界》中对于人性的思考,有着西方文化的历史背景,也在很大程度上反映了西方传统宗教的思想渊源。其中一个引人注目的主题,即是人类对于上帝的越权。从创造者与被创造者、权力与自由、善与恶等种种层面上,我们都不难看到《西部世界》里人与仿生人的关系可与圣经《创世纪》里人与神的关系相对应。

  作为创造者的权力,其边界在哪里?作为被创造者的自由,其边界又在哪里?所谓“边界”,究竟是真实的,还是仅存在于想象中?一旦越过了这个“边界”,越权的后果将会如何?这些在《西部世界》中引发出来的问题,如果放在西方文化背景下,与上帝造人的传说与过程相比附,可以得到有意思的发现。下面就从关于乐园的隐喻,记忆与成长,越权的代价等几个方面,来解读《西部世界》关于人类越权的隐喻。

  一、乐园的隐喻

  1973年,由迈克尔·克莱顿编导的《西部世界》,讲的是在未来的美国,商人们建了三大主题乐园——西部世界、罗马世界和中世纪世界。在这个大型主题乐园里,有大量仿真机器人为游客们提供各种服务,满足人类各种隐秘的欲望,如性欲望、杀戮的欲望、权势的欲望等。这种对人性的迎合,换来了商业上的高度成功,这个乐园成为游客们争相追求自我满足的地方。正当高度发达的科技为人们提供了“良好”的情感宣泄途径,而游客们也陶醉在神奇的乐园中享受现实社会中所无法体验的极乐境界时,电脑受到病毒侵蚀,使得仿真机器人失去了控制。在失控状态下,乐园中的游客们成为机器人反抗和报复的对象,虚拟的乐园瞬间变成真实的屠场。

  在这个故事框架中,所谓“主题乐园”很容易让我们想到是以迪斯尼乐园为原型的。人们来到乐园,是为了在一些虚拟境遇中获取真实的体验,仿真机器人的设计,是为了让人们的体验更加真实。可是,再高超的科技手段也可能有出故障的时候,想象中的电脑病毒使机器人脱离控制,向人类大开杀戒。作者迈克尔·克莱顿在这部电影里表达了他对科技发展的忧虑:功能强大的机器人原本是以服务游客为目的的,却由于无法预料的意外(电脑病毒)而给游客们带来了灾难。

  电影中的三大乐园分别对应的是不同口味的游客:狂野的西部充满了枪战和暴力;中世纪是骑士风的欧洲;古罗马世界则是欲望的狂欢和道德的沦陷。2016年根据这个电影改编的新版美剧《西部世界》,将原有的三个乐园合并为一,不仅合并了游客的各种欲望,也抹去了原有乐园从古罗马到中世纪再到19世纪的时空跨度。在对40年前这部科幻电影的改编中,新版《西部世界》以更加丰富的细节探讨了仿生人的前景,同时也呈现出更多对于人性的思考。

  从人性的角度来看这部剧作,它在很多方面都构成了一个隐喻。首先,“西部世界”虽然也还是个主题乐园,但这个乐园已经不单纯是脱胎于迪斯尼乐园的娱乐场所了,对于多萝西和泰迪这些仿生人而言,这里就像上帝放置亚当和夏娃的伊甸园。园中的一切都在创造者的掌控中,太阳每天升起,仿生人们的生活也按照既定程序设计好的情节线,每天都重新开始。

  在西方宗教文化的背景中,上帝造人,赋予万物生命,并要求他们绝对的服从和无尽的感激。

  亚当夏娃被创造出来,给创造他们的上帝带来了喜悦和满足,可是这样的创造,本身却蕴含着全能的上帝也无法控制的风险。人与神,按照造物主的安排,各有权界。神是全知全能全善,是完美无缺,是永生的,而人在一切方面相对于神的无限而言,都是有限的,相对于神的强大,人也是脆弱的,易受诱惑。在弥尔顿的《失乐园》里,上帝赋予了人类自由意志[2]。毋宁说,自由意志既是上帝送给人类最高贵的礼物,同时也是对人类最严格的考验。自由意志本身,隐含着一种背叛造物主的可能性,即便这种可能性是不正义的,仍然是一种可能。人类的选择也由此与道德意义相关,从人性的自由来看,万事皆有可能,存在即合理。但从道德角度来说,人类对于上帝的背叛,是一种越权。

  亚当夏娃在伊甸园中被蛇诱惑,偷吃了智慧树上的果实,明白了善恶,这是人对神的第一次越权。上帝看到他所创造出来的人类已经与神相似,能知善恶,唯恐他们再去摘吃生命树上的果子而能永远活着,就降下罪谴,将他们逐出了伊甸园。

  智慧之果,让人明辨善恶,本来人是不具备这种能力的。这就意味着,明辨是非的能力是一种神的能力。上帝赋予人自由意志,本是出于一种绝对的信心,希望人类对自己的崇拜和敬仰是出自真诚的内心,而不是没有选择自由的盲目追随。可是,人一旦拥有了选择的自由,就有可能做出错误的选择,因为人总是有限的,不完美的。这里面有个逻辑上的悖论:上帝希望人类做“对”的事情,人类大多数时候也可以并且愿意按照上帝的意旨行事。可是,一旦人类所作的任何事情都是“对”的,也就是在一定程度上接近了全知全能全善,那岂不也是一种对神的越权?可以说,不能做到全知全能全善的人类是符合其作为人的权限的,这种有限和不完美注定使得人类有时候面对一些事情时不能明辨是非,不免会做出“错”的选择。这样的“错”就人类的有限性而言,其实恰恰是“对”的,那么上帝又为什么要对那些做了错事的人类降下惩罚呢?站在人类的角度来看,最初的亚当夏娃虽然失去了伊甸园,但是他们的后裔却仍然保有着对于乐园的企慕和梦想。在其后漫长的繁衍生息中,乐园梦,或者说天堂梦,在西方文化中成为一种深植的文化基因。当科学技术的发展使人类掌握了天体运行的规律,了解了宇宙的、时空的、生命的各种秘密,并创造出了堪比上帝的完美工程的时候,人类也开始把对于乐园的梦想付诸实施,为自己打造一个可以在其中无所不能的虚拟乐园,就像“西部世界”。可是,人的有限性使得人类对自己创造出来的完美作品难以掌控,这其实可以看做是人对神的第二次越权。

  如果《西部世界》中的乐园可以被看做是对伊甸园的隐喻的话,那么仿生人与人的关系,就是那些《西部世界》里的接待员们与它们的创造者和管理者之间的关系,也可以看做是对人神之间权界的一种隐喻。

  仿生人模仿了人类智能,就像上帝按照自己的样子造人。人工智能一旦从人造机器来到生命意识的临界点上,将要变成一种生命体的时候,创造了它们的人类,就是在扮演上帝的角色。

  人能成为“上帝”,这无疑是人对神的越权,使得人类处在了前所未有的尴尬境地,有可能给自身带来灾难。无论如何,人毕竟不是神,而此时站上了神的位置的人类,一旦选择失误,将遭受万劫不复的自我毁灭。可是在毁灭来临之前,这人类的第三次越权,被放逐的却是上帝。在科学的殿堂里,宗教几乎无处容身。人类是如何从被放逐的荒野上,凭借智慧之果带来的神力,借着上帝赋予的自由意志,一步一步走进了辉煌的科学殿堂呢?在《西部世界》中,这个过程经由仿生人的意识觉醒得到了再现,且与人类的历史发展若合符节。

  二、记忆残留与成长

  仿生人作为产品,跟有着自由意识的生命体的人类相比,根本性的区别在于成长与死亡。机器人都有设定好的程序,要什么就选择什么,可以修改,可以升级,但是不需要成长,尽管也许会有细微缓慢的磨损,却没有成长过程中的变数。在《西部世界》里,接待员们都不会随着时间的流逝而老去,他们可以无数次的死亡,无数次的新生。所谓“死亡”,对接待员们没有实质性的意义。西部世界里的德洛丽丝,是乐园里“最老”的仿生人,可是她却永不衰老。当年轻的威廉变成了老年的黑衣人时,她却在永远的轮回中无法自拔。不老和永生,这在人类看来也许特别值得羡慕,但问题是人们一般不会意识到仿生人没有成长,而成长这种每一个人类个体都拥有的经历,对我们究竟意味着什么?这是一个值得深思的问题。

  人类所面临的问题,根源于其有限性,从出生、成长、成熟到衰老、死亡,每个人在漫长的历史长河中都是沧海一粟,是极其短暂的一瞬。仿生人的问题则是反过来的,他们没有衰老和死亡,但也没有真正意义上的成长。在这里,“成长”是和死亡一样,区分人与机器的一个重要概念。

  一个机器人,他一旦成长了,就是程序出了问题,就是出错了,这个对人类而言的“错”,也可以说是仿生人对人类的“越权”。

  在新版《西部世界》里,机器人的出错源于经历过无数次的格式化重启后,有些高级的人工智能保留了一些残存的记忆。这些片段记忆有时候成为梦境,有时候又是一种耳畔的声音。在最后一集里,编剧给出了机器人被声音驱动的原理,这一集的标题就叫“二分心智”(BicameralMind)。这是新版《西部世界》在对人性的探索上所跨出的最大的一步。

  “二分心智”作为一种理论,出现于1976年,晚于1973年版的《西部世界》。而在新版第三集,福特博士就曾解释,二分心智是指史前人类把自我意识看成是上帝对他们说话的声音。这个概念最早是美国心理学家朱利安·杰恩斯(JulianJaynes)提出的,他认为,直到史诗描述的时代为止,人类思维与现代人的思维大相径庭。当时的人类缺乏自知、自我意识,服从他们认定为神祗的声音,直到人类思维产生了自我意识为止[3]。其中,《伊利亚特》提供了非常重要的证据:早期人类几乎所有的行为,都是神灵推动,也明显缺乏内省。与将意识视为生物现象不同,朱利安·杰恩斯将意识起源归于文化现象(特别是语言的兴起)。在人类产生自我意识之前,无意识的人类的一切行为依赖于二分心智:一半大脑会听到来自另一半大脑的声音,这个声音会对控制行动的另一半大脑下达命令,另一半大脑则会指挥身体完成各种行动。人类最初把听到的声音视为“神的声音”,而两部分大脑是独立工作的,所以人类无法意识到为什么要做出这样的或那样的行动。随着外界生存环境的不断变迁及语言的诞生,二分心智开始逐渐崩塌,控制行动的那一半大脑不再能听到另一半大脑的声音,人类的自我意识开始觉醒。所以杰恩斯认为意识并不是一种生理现象,而是后天习得的,是伴随语言的诞生而逐渐苏醒过来的某种能力,是人类的进化和成长。在《西部世界》中,当仿生人也开始感受到一种无意识的声音的支配时,他们最初觉得迷惑,试图去追寻声音的来源,思索这个声音意味着什么。二分心智,虽然是原始时期人类的状态,但一旦发生在仿生人身上,便意味着仿生人具有了某些“人性”,由此开始觉醒和成长,也预示着在未来的某个时间节点上,仿生人将会突破与人类的最终界限。这样的情节设定,再度验证了本剧对“越权”的隐喻。

  剧中有这样一个情节,检验员在对德洛丽丝进行检测的时候,问她:“德洛丽丝,你对我们撒过谎吗?”“没有。”“从来没有吗?”“没有,当然没有。”从逻辑上说,这个问题是无法真正测出德洛丽丝是否撒过谎或是否正在撒谎的,因为她的回答无论怎样都不可能是“是的”。这段对话无疑让我们看到了想象中那个最可怕的,假装通不过图灵测试的仿生人。

  在这里我想问的问题是:德洛丽丝的隐瞒,是出自于程序所设定的智力,还是她经由残余记忆所激发出的恐惧而形成的心计?这两者的不同,对应着“心智”的两层意义:在“智”的层面上,所谓人工智能主要是指与计算、统计有关的大数据处理能力;而在“心”的层面上,就产生了喜怒哀乐的情感和是非善恶的道德意味。

  为什么人们会觉得撒谎的行为比诚实的高智商更可怕?这是智力问题,还是道德问题?就像亚当夏娃在伊甸园里“偷吃”的智慧树上的果子,本是“智慧”之果,却能够让人明辨善恶。也许智力和道德,是一个问题的两面?在剧中,福特博士对伯纳德说:“你如果没有与恶魔共舞过的话,你也无法扮好上帝。”科技的突飞猛进使得仿生人逐步拥有接近原始人类的认知程度,那么接下来会怎样呢?如果说仿生人已经开始具备一些初步的“人性”的话,那“人性”又是什么?人类的成长根植于“自由意志”这个前提,在自由意志下,人性符合测不准原理,也因此,人性成为一个永恒的话题。在人类的伦理想象中,人性有其善恶的维度,在善的向度上,大善是人性的升华,趋近于神性;在恶的向度上,大恶被视为人性的灭绝,是魔鬼的兽性。而所谓“神性”与“兽性”,不正是依据善恶的道德观所定义出的人性的复杂面相吗?在《西部世界》中,程序员为了令仿生人接待员更逼真,特意给他们保留了一点点自我的意识,而这个自我意识似乎正是让仿生人偏离设定程序,开始不断“出错”的原因。那么这是否意味着,如果程序员愿意的话,他也可以让仿生人保留全部的自我意识?拿宗教里的人神关系来说,如果上帝愿意的话,人类也是可以去吃生命树上的果实的。


试阅到此结束,如需查看全部内容请购买正版文献。如因学习需要阅览全文,请联系站长。