tudies on Science Popularization

S

028

2020 年第 3 期 总第 086 期

收稿日期：2019-10-27

基金项目：中央统战部宗教研究中心互联网宗教信息大数据监管体系研究（MT2009A）阶段性成果。

* 作者简介：梁卫国，中央民族大学哲学与宗教学学院博士研究生，高级编辑，《中国电力企业管理》杂志社责任编辑，

研究方向：人工智能在宗教哲学领域的应用，E-mail：1064220365@qq.com。

[ 摘 要 ] 人工智能快速发展的现实为科幻作品提供了创作素材和科技佐证，而科幻作品为人工智能提供了未

来想象和发展可能，两者既相离又相交的关系构建起了丰富的精神实验和感觉体验。产生这些实验和体验的

根本原因是，在符号主义、连接主义和行为主义指导下，以数据和算法为技术核心的人工智能逐渐突破了人

类中心主义的伦理观。这种伦理观可能会导致人类丧失对机器的控制权，甚至导致人类的毁灭。要避免这种

悲剧发生，需要构建起人类与人工智能相处的新伦理：重新审视人本身，保持对人造自然物——人工智能的

敬畏，在人类中心主义的主体下，构建起人类与人工智能相处的准伙伴关系。

[ 关键词 ] 伦理 人工智能 科幻作品 主体性 人类中心主义

[ 中图分类号 ] TP18；B82-057 [ 文献标识码 ] A [ DOI ] 10.19293/j.cnki.1673-8357.2020.03.005

科幻作品视角下的人工智能伦理

梁卫国 *

（中央民族大学哲学与宗教学学院，北京 100081）

在众多的科幻作品中，人类与人工智

能相处的伦理问题常常让人揪心。在《终

结者》（The Terminator）中，最新型终结者

T-X 美丽俊秀、身手毒辣，以能量形式存在

各种网络之中；她能随心所欲地变成各种形

态，并能操控其他机器人，连最先进的液态

金属 T-800 也无法逃脱她的操控。《黑客帝

国》（The Matrix）中，在 22 世纪，人类生活

在机器所虚构的世界之中，肉体和精神都被

超级机器控制。电影《机械姬》（Ex Machina）

中，人类造出的机器人具有独立意识，利用

感情成功欺骗人类，逃离实验室，并试图毁

灭人类。从逻辑上看，科幻片的构思似乎无

懈可击。一方面，人工智能的确具有人类所

没有的无限寿命、超强的计算能力及其他高

级智能。另一方面，在现实生活中，人类似

乎无处可逃：街头车站涌现大量的手机“低

头族”，网络社交评分无处不在，狂热青年忙

着赚虚拟货币。导致人类无处可逃的是高速

运转的人工智能，人工智能正把虚拟世界与

物理世界的边界变得愈加模糊。这些巨变使

得一些科学家认为，奇点来临后，科幻片中

人类被追杀、毁灭的景象就会变成现实。那

么，人工智能和科幻作品有何关系？如何看

待人类和人工智能相处的伦理问题？面对这

种伦理问题，人类应该何去何从？

1

人工智能和科幻作品的关系

1.1 科幻作品为人工智能伦理研究提供可能

如果从传统的学术谱系上看，人工智能029

主要指“一门研究如何构造智能机器 ( 智能计

算机 ) 或智能系统，使它能模拟、延伸、扩展

人类智能的学科”

[1]

，属于计算机科学的分支

学科，是自然科学的范畴；“科幻作品是关注

科技发展对人类社会自身发展及科学文化等

更深层面的精神发展的影响的作品，是结合

现代科技成就与文学意境的产物”

[2]

。科幻作

品是在科学技术的基础上衍生出来的文学亚

门类，是社会科学的范畴；那么，就人工智

能和科幻作品纯粹学术研究的内部结构、运

作机制、学术传统及代际传承方式来讲，两

者相去甚远，并在各自独立的领域遵循着自

身发展规律进行着生灭变化。目前，关于两

者分别研究的自然科学界和社会科学界有着

较多的学术成果，这些学术成果也为人工智

能伦理研究奠定了重要基础。对普通公众来

讲，人工智能伦理问题专业性较强等，因而

理解起来有一定的难度。

如果从科学普及的角度看，当公众在被

《终结者》《黑客帝国》等这些科幻作品勾画

出的未来而兴奋或担忧时，我们就会发现，

从科幻作品的维度来研究人工智能伦理问题

或许是个不错的视角。这是因为，人工智能

作为科技的一种，常常也是科幻作品的内容。

这些作品中反映的人工智能伦理问题为人工

智能伦理的现实研究提供了某种可能。这种

可能性也可以从人工智能伦理概念和科幻作

品的概念中得以证明。虽然，目前人工智能

伦理作为一个相对较新的事物在学术研究领

域并没有一个公认的统一的确定概念，但我

们不妨先从其上位概念科技伦理尝试进行定

义。科技伦理的定义是，“人们在从事科技创

新活动时对于社会、自然关系的思想与行为

准则 , 它规定了科学家及其共同体所应恪守

的价值观念”

[3]

。根据科技伦理这个定义，我

们可以将人工智能伦理定义为“人们在从事

机器人、语言识别、图像识别、自然语言处

理和专家系统等人工智能创新活动时对于人

类社会、自然关系的思想和行为准则”，一般

地，这个准则的核心问题是如何落实人工智

能的责任问题。这种“对于人类社会、自然

关系的思想和行为准则”与科幻作品是关注

科技发展“对人类社会自身发展及科学文化

等”影响的作品，存在一定重合关系。这个

重合的主要因素就是，人工智能伦理和科幻

作品都关注科学技术对人类未来社会（生产、

生活、生存等）的影响。只不过，相对来说，

伦理问题关注的这个未来现实性更多些，而

科幻作品关注的这个未来幻想性更多些。如

果反映人工智能伦理和科幻作品两者本质属

性的概念有一定的融合因素，那么，从科幻

作品中去探寻人工智能伦理就存在可能。

科幻作品为人工智能伦理问题（关注如何

处理人类与自然的思想和行为的准则问题）研

究提供可能，还可以从具体的实例进行论证。


试阅到此结束，如需查看全部内容请购买正版文献。如因学习需要阅览全文，请联系站长。