中国作家网>>科幻>>动态

人工智能时代，谁能控制赛博空间？

分享到：

来源：雅理读书（微信公众号）　|　胡凌　　2018年05月30日13:14

引 言

“人工智能”（以下简称AI）一词既在技术层面使用（工具、客体），也逐渐在道德与法律主体意义上进行讨论。AI首先依托于现有互联网底层架构和商业模式得到开发，原本没有那么智能的算法在运算和数据处理能力上得到提升，甚至算法本身能够自主学习，对数据进行识别、分类、决策，可应用的场景也从单一扩展到多元，最终变成通用AI。

不难看出，AI这一概念容纳了相当混杂多元的对象，而人们在谈论时头脑中往往想象不同的（甚至当下不存在的）实体。如果讨论对象模糊不清，就很难对不同判断达成一致（如是否应赋予AI适格的法律主体地位）。本文延续思考网络法核心问题的一贯视角，将AI置于互联网演变过程（特别是生产过程）中，观察AI对既有赛博空间（Cyberspace）秩序的影响，以及法律如何回应。

这一视角的好处是：

首先，AI依托于不同场景和商业模式，可以在当下针对特定模式的立法体系下讨论，避免在同一个标签下谈论不同层面的问题；

其次，可以折射出AI的生产性维度，看到AI使用背后的生产关系和政治经济利益，而这往往被实证法学忽视；

最后，可以将既有网络法问题置于更加自动化、智能化的环境中，思考什么构成了中国语境下独特而持续的理论与实践问题。

以互联网为媒介的数字资本主义的重点在于价值生产。不难发现，AI时代是算法驱动的社会化生产过程演进至更为自动化的阶段，也是继云计算、大数据之后互联网进一步发展的阶段。这一阶段明显的特征在于对算法的智能开发与广泛应用，如果说前两个阶段的主题过于技术化，普通人难以理解，AI阶段则更富有戏剧性：它伴随着神奇的竞赛故事、大众媒体炒作以及耸人听闻的警告和担忧。

技术公司们担心，把AI看成是未来人类的竞争者和统治者的论调会促使政府加强监管，导致这一领域的研发和投入减少，但事实上人们很快就发现，媒体、好莱坞影视剧和科幻小说中的AI并不会短时间成真，世界主要国家的政府和所有大型互联网公司都在鼓励AI研发，并将之视为未来国家间、企业间竞争的真正力量。

恐怖谷理论（Uncanny Valley）业已说明，人形机器人可能不会在消费者市场上受欢迎，除非它们被刻意设计得远离人形，以至于不会给人类使用者造成“同类”的反感印象，哪怕在机器人文化盛行的日本也是这样。相反，在现实中AI依托互联网服务大有可为，越来越深入地介入普通人生活，不局限于某类特殊技能的智能水平提升，而是通过数据分析和精准预测带来实在的经济利益。

笔者曾区分了AI及其法律的双重属性：实证性（规范性）和生产性，前者指由作为一种黑箱的AI引发的权利和责任配置问题，如谁来承担无人驾驶汽车事故的责任，这些新兴规则的生成遵循着已有的网络法规则创设模式；后者则指AI作为新经济的生产要素如何受到规制和约束。生产的维度之所以重要，是因为它延续了传统政治经济学关于经济民主、歧视、平等、劳动过程等关键问题的讨论，法律问题只是这些宏大问题的具体缩影。

如果AI只是传统生产组织用以提高生产效率的工具，那么也并没有提出全新问题，但只要AI生产依托于互联网，遵循着网络生产的模式，就会延续一些和传统经济相比不同的问题，特别是劳动组织和劳动关系。

实际上，AI的特殊性是互联网整体问题的映射，这未必是法律意义上的独特问题（任何新事物都可通过法律解释活动在既有概念体系中得到解释），而是需要作为一种新型权力和利益相关人出现，以争夺现实的合法性。

就生产而言，新经济业已展示出两种类型：线上信息生产与通过算法驱动供需匹配，前者用于吸引大规模用户并将其作为免费劳工，后者则体现为信息经济带动更广泛的经济活动，更为精确地对供需进行匹配。类似地，AI阶段的生产指：

（1）AI正在取代越来越多的人类线上行为和劳动，以极低成本产生信息内容，吸引更多用户；

（2）通过AI驱动线下资源生产更加精确，减少信息不对称，塑造价值再生产过程，并从交易双方获取最大限度的剩余价值。

网络法的核心问题在于互联网如何进行控制和生产，其微观机制和宏观架构是什么，以及更进一步，谁能控制赛博空间。在生产和控制过程中，形成了两组主要关系：一是平台企业和用户的关系，一是平台企业之间的竞争关系，它们都可置于同一个生产性网络法框架中得到探讨。

这些关系是辨证的，一方面共同体现了新经济内生地需要何种法律，另一方面又是不断生成演进的，是企业与用户、竞争对手不断博弈过程中形成的秩序。本文认为，AI日益成为智能架构的核心构成，关于AI的任何法律安排（无论是法律主体还是客体）都需要放在上述不断互动的关系中观察理解，而无法先验地由法律拟制确定。

本文结构如下：

第二部分首先将AI置于现有网络法的架构理论下进行解释，认为AI是整个智能生态系统中不可或缺的一部分，有必要和其他互联网层面联系在一起系统讨论，而不是作为独立对象（这是任何法律主体讨论的思想根源）。

第三部分讨论AI如何推进网络法的上述两对核心关系，即智能化和自动化将进一步改变用户和服务商的生产关系，同时也可能加剧不正当竞争，需要法律给予回应，划清架构边界。

在讨论服务商和用户之间的关系时，AI作为法律主体的问题似乎凸显出来，在这一过程中用户并未在架构中显著增加控制能力和活动空间，AI企业的控制力反而进一步增强。

第四部分继续在架构视角下讨论如何通过合同和监管处理作为黑箱的AI信息披露问题。

架构理论中的人工智能

“架构”（architecture）理论或代码理论由劳伦斯·莱斯格（Lawrence Lessig）在《代码及其赛博空间中的其他法律》一书中提出，并在后续研究中不断得以扩展。架构帮助我们理解赛博空间的权力如何出现和延伸，解释一系列网络法问题，可从横向与纵向两个维度进行讨论。

就横向维度而言，架构从不同场景和功能的设计得以体现，影响架构内主体行为，并可通过一些基本方式进行合并或分解。就纵向维度而言，架构包括了从硬件层、内容层到数据存储层的诸多层面（见图1）:

横向与纵向架构展示了赛博空间控制/生产的范围，AI正是其中关键一环。以架构视角观察，不难发现人们对AI的不同想象取决于对不同架构要素组合的理解和认知：

尽管大众愿意将AI设想为有形体的“机器人”，但目前相当多的AI应用都依托现有互联网服务，且出现硬软件垂直整合的趋势。

按照通行的互联网商业模式，可将AI分解为“算法+第三方应用（场景）+硬件终端”，各类场景由多个算法组合控制，形成生产和交易流程，从具有强大运算能力的云端服务器进行远程控制；中层则由第三方应用开发者形成交易平台，允许用户通过终端进行交互使用；终端不过是连接线上和线下的界面，最初是智能手机，也可以演变成包括智能音箱、无人驾驶汽车在内的任何硬件。其商业目的是加强人机交互，按照分享经济思维促成大规模交易与合作。

这一架构中的AI会通过账户对使用者进行认证，对账户中积累下来的用户行为数据进行分析识别，生成动态身份，并对其行为进行评分指引，预测其偏好和未来行为。从这个意义上看，AI就不单纯是一个“大脑”或终端产品，而是一整套生产流程，甚至就是架构本身。

按照这个思路，也可以按照不同功能区分位于赛博空间架构不同层面的AI:

?I类为C2C模式平台本身，通过大量数据分析精准调配资源、设计场景；

?II类为B2C模式，向用户直接提供在线服务；

?III类为用户的智能代理人，代理用户在平台上参与交易，但可能和I类的角色相冲突；

?Ⅳ类则是用户购买的终端智能产品。

四者之间的关系一定程度上反映出互联网架构和权力关系在过去十多年间的重大变化。互联网发展早期的智能、创新和控制力集中在无处不在的终端，经由创生性的个人电脑、端到端分布式架构以及大众分享的文化造就了我们熟悉的互联网生态。

然而，随着云计算兴起，越来越多的服务以信息流方式在线提供，同时应用商店模式使终端越来越变成哑终端（尽管芯片处理能力不断增加），用户在架构中的行为能力受到愈加严格的限制，一切指令都来自于智能云端。

理解这一点有助于我们理解未来可能出现的形形色色的AI终端产品，表面上看是由用户购买控制，但它们并不能独立运作，需要时刻与服务商中央服务器相连更新，甚至可在一个封闭网络中相互沟通传输数据（智能物联网），使用户成为遵循许可使用协议的终端租客而非购买者。

此外，I类AI还可能通过特定方式（如许可牌照）成为寡头垄断的基础设施服务，为更多中小开发者提供计算能力和数据分析服务，也变相地推动形成巨头主导的生态系统。如果将横向与纵向视角合并，可以看到智能架构中上述四类AI的地位及其对社会主体行为的影响（见图2）。

AI作为整个架构演变的引擎，对外开拓架构的疆界，对内则塑造生产关系和生产活动，与平台规则、评分机制、用户协议等一并构成了架构权力。较为完美的控制/生产体系是文字规则与代码规则保持一致，外在的用户协议与平台规范能够精确地描述变动中的算法功能，但这在实际中却难以实现，后文还将进一步讨论。

在这个智能架构中，既包含高度流动和不确定的要素，也包含稳定不变的要素。

例如，架构中汇集的生产性资源是不断流动、多属的，但架构通过账户认证和识别稳定地追踪用户，并根据其数字画像加强预测降低风险；架构的硬件层面的质量要得到保证，确保符合质量安全标准，但其软件功能又需要不断更新升级，要求用户容忍配合。

在这样的辩证法中，AI经济得以不断崛起演进，使AI企业与用户、竞争者的关系变得日益复杂。

人工智能与我们：

从游乐场/商场到工厂

上文已经说明，常识能够想象和理解的AI服务会以何种方式开展。这意味着AI产品很可能进一步脱离终端用户操控，由AI企业持续保持强劲控制力，在此背景下谈论独立的AI法律人格可能会有截然不同的政治经济意蕴。

本部分将这一话题放置于AI与我们（作为产销者，prosumer）的关系中，指出无论是消费者还是数字劳工，都需要认真对待更加智能化的数字架构，后者驱使互联网带来的控制/生产过程走得更远。

机器正在取代人类工作的讨论方兴未艾，最早反映在互联网上主要是由算法直接生成或辅助人类制作可供消费的内容，后来扩展至更多元的场景，可能的模式既包括B2C，也包括C2C。

这一方面无疑影响了那些难以快速适应新技术变化的传统职业，另一方面更加便利了消费者，同时将更多熟悉数字环境的消费者转变为可产生价值的灵活劳动者。

下面简要勾勒出AI生产场景的演进（即上文的II类和Ⅳ类）：

?新闻报道、法律服务、编曲、文学创作、广告这样的初级信息编纂工作可以又快又好地由AI承担，以接近于零的边际成本向用户提供，降低用工成本。这更多是结构化的数据自动生成的结果，只要对输入的数据进行结构化整理，就可以按照一个模板生产出所需的信息产品。

?机器人推手、僵尸粉、刷单和个人信息打码这样的灰/黑产的生产主要由AI实现。

?虚拟交互或创设虚拟形象，诱使更多的用户参与使用，如直播平台和微博上的粉丝或者在线游戏虚拟对手、聊天机器人。

?基于去世用户数据开发出虚拟人像对话服务，模拟用户生前行为和思想，实现“永生”。

?在软件智能化基础上，将电脑和智能终端稍加改进扩展，形成各类新型终端，即会思考的机器人雏形。

对用户而言，智能服务是一个合同问题，如果他们接受一个存在大量AI拟人化生产的虚拟环境，监管者会要求企业在用户协议中披露这类信息，并提供能够验证真伪的方法，以免用户遭受欺诈造成误解。机器生产的意义在于，它不仅反映了网络空间价值生成的劳动本质，也折射出用户在互联网空间生产中转瞬即逝的地位，甚至还反映了机器生产和人类劳动之间的连续性。

伴随着人工成本的增加和竞争更加激烈，我们有可能见证更多由AI创作的网络信息和文化作品（哪怕是初级的），而在未来则会出现一个完全由机器生产主导的虚拟世界。

这一过程如果逐渐成真，部分互联网平台可能会从C2C第三方平台模式转向B2C自营模式，如果前者的成本远高于后者。这当然会部分地减轻地域性监管的压力（无须为不良内容找到人类责任主体），取而代之的是针对企业统一算法的监管。但就目前法律实践而言，无论是法院还是监管者，都倾向于对网上的外在行为或结果进行认定、确定责任分担，而不是探究黑箱内部（详见第五部分）。

AI无须作为法律主体接受监管，而只是互联网企业生产过程中的工具而已。即便是在搜索引擎公司强调其搜索推荐或竞价排名推广信息是“自动生成”的时候，人们也从未想过要由一个纯粹的机器算法承担责任，独立法律主体的说辞只是在为免费利用开放网络信息且承担较轻的审查责任提供理由（这一说辞仍值得重视）。

如果越来越多的网络内容不但由AI自动筛选，甚至组合排序，形成某种新作品，就会涉及与当下搜索结果的排列顺序的区分，机器介入的程度越来越深使形式上的分别愈加不重要。

作为直接生产者的AI无疑会大量增加网络公共资源的供给，避免出现人类生产者动力不足的公地悲剧问题。然而，人类的生产过程，同时承载着沟通交流与合作的功能，建立起同侪之间的关系和纽带，而不简单表现为纯粹的劳动和价值交换。

AI生产的增多可能逐渐会减少这类活动的文化、社会意义，使经济性成为最主要的衡量标准，同时意味着平台对公共资源池的掌控能力更强。下面将细致讨论在互联网经济基础上生发出的AI法律人格主张。


试阅到此结束，如需查看全部内容请购买正版文献。如因学习需要阅览全文，请联系站长。