(作者单位:天津师范大学文学院)
科幻文学中的人工智能伦理
吕超
多年以后,当人工智能的机器大军四处围猎人类残部时,躲在阴冷地堡中的人类战士夜深难眠,回忆着人机大战的遥远开端:从1988年开始,“深思”、“深蓝”、“AlphaGo”等先后在象棋、围棋领域击败人类,人类的荣耀便日趋衰落……幸好,这种惨淡未来,只是笔者构想的虚拟图景。当然,这也绝不是杞人忧天,对未来的悲观预言是为了警醒当下世人:面临正在开启的“人工智能纪元”,我们必须尽早建构一种稳妥的科技伦理,以此来引导人工智能的研发方向和应用领域。本文并不细数人工智能伦理的微观条款,而是基于人类价值观和认识论的演变,从科幻文学的角度探讨人工智能伦理的历史脉络,并推演未来可行的发展方向,既展现世界视野,也兼顾中国话语。
人工智能(Artificial Intelligence,缩写为AI)一词在1956年的达特茅斯会议[1]上被首次提出。作为一门新的交叉学科,目前主要涉及计算机领域,它试图了解人类智能的实质,进而生产出一种媲美人类智能的软件系统、机器人(Robot)、仿生人(Android)或赛博格(Cyborg,也译生化人),乃至全面超越当今人类的“新人”。当然,早在人工智能这个词被明确提出之前,人类对“人造智能生命”的想象便早已开始,尤其和科幻文学有着千丝万缕的联系。
科幻文学中的人工智能伦理具有一定的前瞻性,并不受限于具体的科技进展,而是与人类的价值观演变息息相关,其中不仅有对科技的反思,也包含着复杂的神学焦虑和哲学思考。概言之,西方文学中人类对“人造智能生命”的态度,大体经历了从拒绝接纳,到奴化控制,再到交融共生的三个发展阶段。西方的基督教神学传统和人类中心主义哲学,以及对现代性的反思是推动其不断深究这一问题的文化根源。相对而言,基于阴阳五行、万物有灵的传统思维,以及对现代性的乐观认知,近代之前的中国文学几乎不关注人工智能伦理问题;此后,在西学东渐的时代变革大潮下,中国文学开始逐渐关注该领域,发出自己的声音,但现代性的探讨相对不足,在作品数量和理论深度方面均有待提升。
拒绝接纳
“人造智能生命”题材最著名的作品当推英国作家玛丽·雪莱(Mary Shelley)1818年出版的《弗兰肯斯坦——现代普罗米修斯》,这也是世界科幻文学的肇始之作。小说的副标题隐喻了古希腊神话中普罗米修斯造人的故事,但与神话中普罗米斯修对人类无限眷顾,甚至不惜盗天火的自我牺牲精神相反,作品中的造物主(科学家弗兰肯斯坦)始终不愿接受这个外表丑陋的智能生命,也因此引发一系列残酷冲突。这部作品给后人留下了很多值得深思的伦理问题,譬如:一旦“人造智能生命”产生后,其行为是否应被纳入人类的伦理准则?
人类是否要担负起使其生活幸福的责任?遗憾的是,玛丽·雪莱并没有回答这些问题,对“人造智能生命”持否定态度的她,从根本上拒绝讨论伦理建构的可能性。
在之后的很长一段时间,不少作家对人工智能的态度和玛丽·雪莱相似,其笔下的“人造智能生命”在没有被纳入社会关系之前,便直接或间接地将创造者杀死。譬如,《白鲸》的作者麦尔维尔(Hermann Melville)在《钟楼》(1855)中描写敲钟的智能人偶杀死了自己的制造者;另一位美国作家比尔斯(Ambrose Bierce)在《莫桑的主人》(1909)中描述智能人偶因输掉棋局而释放高压电流杀死主人。需要说明的是,这一阶段对人工智能的称谓大都是Automaton。据《牛津大词典》(OED)记载,该词最早出现于1611年,意指借鉴钟表齿轮技术而制造的自动机械人偶,和后世文学中的高智能人造生命差距较大。
此外,还有一类对人工智能持否定态度的作家,他们作品中的造物者虽然没有被杀死,却都是反面形象,“人造智能生命”也最终被损毁。较早的作品有德国作家霍夫曼(E.T.A. Hoffmann)的《沙人》(1816)。小说描写神秘人物“沙人”制造出女性智能人偶,后因事迹败露,人偶在争抢中被肢解,迷恋她的男主角也疯癫而亡。此类作品最具代表性的当属法国作家维里耶·德·利尔-亚当(Villiersdel\' Isle-Adam)的小说《未来夏娃》(1886)。作者把当时还在世的爱迪生描述成偏执而又诡异的发明家,他为好友埃沃德制造了一个和真人女性极度相似的智能机器人哈德莉。但最终哈德莉却死于一场海难。在这部小说中,智能机器人一词为Android。据OED记载,该词最早形态为Androides。
“andro”在希腊字源中指的是“人类”,而“eides”意为“形状”,两者相连就有了“具备人体特征”之意。如今,人们在使用Android一词时,一般特指拥有人类形体的智能生命体。
上述作品有一个共同点,即科学家的创造活动还只属于个体行为,被造出的单个智能生命在没有得到社会承认之前,便以悲剧收场。笔者以为,这种否定立场的背后隐喻有西方社会普遍存在的神学焦虑。按照基督教的观点,人的自由不是无边的,必须承认自身的局限性,保持对上帝的敬畏之心。在人的众多定限中,最重要的一点便是在道德方面:人类无法实现道德完美,掌握先进科技的人在道德上未必良好。那些“造人”的科学家在挑战上帝权威方面,很像魔鬼撒旦。狂热的他们让生命进化脱离了自然演变的过程,进而释放出无法预料的破坏性力量。最终,人类不但不能控制自己的创造物,反而被置于死亡的恐怖境地。
试阅到此结束,如需查看全部内容请购买正版文献。如因学习需要阅览全文,请联系站长。