人工智能杀死主人的100种方法

付强

　　我再次见到赖朋的时候，他比之前更加消瘦了，颧骨从仿佛切削过的脸颊突出来，眼袋厚厚的。我们上次见面是本科同学聚会，他一个人窝在角落里，桌上的啤酒一点儿都殳动。

　　“我正在被亚瑟追杀。”刚刚在小餐馆坐定，还没来得及脱下外套，他便神秘地对我说道，“如果不能干掉它，我迟早会被杀死。”

　　亚瑟是赖鹏亲手制作的机器人的名字。从计算机系毕业后，赖鹏继续攻读了博士学位，最终留在了科研界；而我晃荡了一國后，居然成了科幻作家。上次聚会，我了解到他承接了一一项自然科学基金委的课题，名字好像叫作“人工智能未来风险的防范与化解”。

　　为了完成课题，赖鹏制作了一台人形机器，并为之编写了前所未有的人工智能系统。那台机器人就是亚瑟。

　　“我能为你做些什么？”我谨慎地问道。

　　“我最近读了你的小说。”赖鹏的回答出乎意料，“科幻与推理结合，很棒的角度，只可惜对女性的审美过于直男。”我感到一丝不快。赖鹏继续说道：“我不清楚还能活多久，所以想把自己的经历讲给你听。有朝一日，你可以把它写成小说，又或者忘了它，看你的心情。”

　　我点点头，赖鹏开始了讲述：“在计算机程序还远不能称为”智能“的时代，人类就开始设想，有朝一日人工智能有了自我意识，会不会危害人类。科幻作家们围绕这个题材创作了很多经典作品，相信你比我更清楚。这其中的集大成者，便是阿西莫夫提出的机器人三定律。”

　　“机器人不得伤害人类，或对人类受到伤害而袖手旁观：机器人必须服从人类的命令，但不得违反第一定律：机器人必须自我保护，但不得违反第一、第二定律。”只要对科幻有些许了解，阿西莫夫定律一定是耳熟能详。

　　“确实。只要将这三条定律写入人工智能，它们就是安全的吧？”我问道，“你的课题究竟在研究什么？”

　　“安全？你究竟怎样理解的安全？”赖鹏一下子来了火气，但他很快发现到自己的失态，清清嗓子继续说道，“用人类的语言说出来确实简单，但人工智能执行的是一条条逻辑语句。你怎样将那些理论转化为逻辑语句？怎样保证它们没有漏洞？这就好像老婆派你去超市买一一些好吃的，到底他妈的什么叫作好吃的？”

　　“换言之，阿西莫夫定律在实操层面很难实现喽？”我问。

　　“这就是我的工作。”赖鹏端起水杯，却因为手臂颜抖洒在了衣袖上。我连忙递上纸巾，又帮他叫了一杯柠檬水。

　　“我不清楚究竟怎样的逻辑语句能完美再现阿西莫夫定律，唯一的办法就是不停地实验。我为三定律编写了一个测试版本，将它导入亚瑟的系统中，又为它设定下一个最高目标：在不违反三定律的前提下，杀死我。”

　　赖鹏的眼中好似闪出了火花，“同时，我将最先进的机器学习程序赋予了亚瑟。这些算法会不断完善亚瑟对于阿西莫夫三定律的理解。”

　　为了课题的顺利开展，赖鹏竟然将自己的身家性命置于刀口下，他的专业精神着实值得佩服。赖朋继续说道：

　　“我遇到的第一个难题，就是怎样界定这个该死的伤害。我敢打赌，阿西莫夫先生写下‘Injure’一词的时候，完全没有考虑程序员的感受。例如握手吧，相同的力学参数，和成年人握手完全不是问题，对于小婴儿就是伤害。但如果把握手的力学参数统一设定为不会伤害婴儿，成年人又会觉得那根本不叫握手。再例如。给我喝牛奶不叫伤害，但将牛奶端给我家乳糖不耐的保姆刘妈就是伤害。在亚瑟不掌握‘刘妈乳糖不耐’这条信息的前提下，它让刘妈喝了牛奶算不算伤害？如果刘妈自己都不清楚，她命令亚瑟给她一杯牛奶，算不算伤害？”

　　“做研究也真是不容易。”我挤出一句安慰的话。

　　赖鹏叹气道：“课题的目的并不是我和亚瑟的博弈，而是收集实现三定律过程中的问题，并不断完善。与其他基于大数据的机器学习不同，‘伤害’这玩意儿压根儿就无法试错。如果让亚瑟捏爆了谁家孩子的手，别说顺利结题，我铁定要蹲局子了。于是我想到一个办法：我将自己的右手改装成能够调节力度的机械手，液压泵步进电机加上压电陶瓷驱动，精确度达到0.3微牛。这样一来，通过不断我和握手，亚瑟学会了利用传感器的反馈及时调整力度。现在无论是职业拳击手还是新生儿，亚瑟与之物理接触时都能掌握得恰到好处。”

　　“乳糖不耐问题呢？”我问。

　　“很简单，我建立了一个数据库，所有可能引发过敏反应的物质，亚瑟都会在主动询问才会提供。当然问题也很明显，有一天我让亚瑟帮我做火锅，结果他花了20分钟询问了我不下50种原材料的过敏问题。实在太烦，我便把这项功能关掉了。”赖鹏润润嗓子，“不过作为研究我已经成功了，怎样把这么絮叨的机器人卖掉不是我的工作。”

　　“恭喜你，研究取得重大进展。”

　　“早得很呢！”赖鹏的眼神黯淡下来，“亚瑟对我长达半年的谋杀，才刚刚开始。”

　　“我最初发现不对劲是去年冬天的一个早上。那天早上起来我的感觉很糟，肩膀重得仿佛压着铅块，呼吸困难，还心烦意乱。更该死的是，我的喉咙火烧火燎地疼，前一天晚上为了熬夜干掉半瓶威士忌，想是发炎了。我让亚瑟帮我拿些药过来，我知道自己喝了酒，刻意强调了不要头孢类。亚瑟为我递上一盒利奈唑胺，我几经确认不是头孢后吞下了。实际上这完全是多此一举，根据第二定律，亚瑟必须执行我的命令。”

　　“可三分钟后我就发现了不对，连忙抠着嗓子把药吐了出来。谢天谢地，身体没有出现严重的副反应。肩膀痛和心慌是由于我有重度焦虑，它们是我的老朋友了，为了与它们和平相处。我一直在服用舍曲林。去他妈的，我确实不会死于酒加头孢，但舍曲林和单胺氧化酶抑制剂引发的5一羟色胺综合征同样能要了我的命！甚至更加快捷！”

　　“等等，亚瑟把会引发副反应的药给你，这岂不是违反了第一定律？”我打断了他，“这件事明明会对你造成伤害，它却熟视无睹。”

　　“问题就在于，它并不知道我正在服用舍曲林。既然没有掌握这条信息，那么利奈唑胺只是可能会伤害到我。你一定会说，为了杜绝这种可能性，它为什么不能向人类医生一样问一问呢？好，我们又回到原来的问题，它应该问什么？如果将所有药物可能引发的副作用全部询问一遍，我肯定已经成了细菌的培养皿。这还不算完，如果我本人也不知道怎么办？或者我回答错误怎么办？唯一的办法是进行全身体检。所以结论就是，要么我欣然接受能干掉自己的利奈唑胺，要么接受一次全面的身体检查，包括基因测序。”

　　我有些不明就里，继续问道：“仅仅是‘不知道’，就可以绕开第一定律吗？”

　　“帕隆多悖论。”赖鹏给出了一个陌生的名词，“两个，或者多个为输的游戏。放在一起玩，结果却是赢。”见我一副不解的样子，他继续解释道：“举个简单的例子吧，有这样两个游戏，第一个游戏中，如果我们性别相同，那么你去变性；第二个游戏，如果我们性别不同，我给你100元，反之你给我100元。”

　　白痴才会玩这样的游戏吧！

　　“你看，无论单独玩哪个游戏，毫无疑问你都会输：但如果我们依次玩这两个游戏，由于第二个游戏前你经是女人了，你反而会赢得100元。”

　　我并不认为100元的价值可以和“变性”去比较，但我好歹明白了这个家伙在说什么。单独喝酒，或者单独吃头孢类抗生素都不会致命，但两者一起服用就会危及生命。具体到阿西莫夫定律的情况，也许单独做每一件事都不会对人类造成伤害，但按照一定的顺序去做，甚至能要了人的命。在操作上，这并不违反第一定律。

　　“看来你又要更新数据库了。所有会触发‘帕隆多悖论’的组合事件，都要想办法避免。”我用有些哀怜的眼神看着面容憔悴的老同学。

　　“没错，而且这次的数据量更加巨大。考考你，假设有n个独立事件，它们能够组成多少组合事件？”

　　“2的n次方。”我顺利给出了答案。虽然不做科研，我也会经常温习理工科知识。

　　赖鹏诡异地一笑，“想想看，你都知道的事情，亚瑟会不知道吗？某天，我午饭只啃了两块干面包，正在筋疲力尽地更新数据库，亚瑟走过来对我说：‘主人，不要白费力气了，你已经输了。’你什么意思，我问它。亚瑟摇摇头，对我讲述道；‘假设有n个独立事件，它们的排列组合就有2的n次方种。将这些组合事件再次排列组合，就是2的2的n次方。这个数量是以迭代幂次的形式增长的。考考你，n个量子比特，最多能存储多少数据位？’‘2的n次方。’我答道。‘Bingo！’亚瑟打了个响指，妈的，要是知道它会染上这个毛病，我应该给他购买责一些的硅胶皮肤，免得声音像一个闷屁，‘这不过是指数函数而已，增长速度远不能和迭代幂次相比。理论上，没有物理存储足够储存你理想中的数据幸。’”

　　我点点头，“亚瑟说的没错，你已经输了。”

　　“那天下午我瘫在沙发上，一动不动。难道仅仅是帕隆多悖论，我都无法攻克吗？然而功夫不负有心人，在关闭了亚瑟的电源1个月后，我终于找出了解决方案。”

　　“组合事件的数量在理论上是无穷的，然而，组合起来的事件越多，成功率就越低。举例而言，你弹出一个小球，小球恰好撞翻桌上的水杯，水恰好全部落入桌下的水盆，水位上升恰好顶起了斜面，斜面上的鸡蛋落下恰好砸开了玩具车的开关，最后玩具车恰好将纸巾送到你面前。你觉得这件事的成功率有多高？”

　　“我宁愿自己站起来去拿纸巾。”

　　“我进行了大数据模拟，当组合事件的数量达到一定的数值时，成功率会趋于一个接近于0的常数。所以，我的数据库只需覆盖到这个数值以下的组合事件就好了。当然，即便如此，数据库依然十分庞大。”

　　我问这个“一定的数值”是多少，赖鹏左右环视，说出了一个我闻所未闻的大数。

　　“我将数据库导入了亚瑟的系统，再次启动了它。新生后的亚瑟看看自己的身体，呆坐了好久，最后悻悻地走了。那一刻，我天真地认为，我赢了。”

　　“它又想出了新的方法来搞死你。”

　　“我之前想到的所有组合事件，都是线性的，例如你弹出的小球顶多撞翻一个水杯，而不会撞毁一座房子。自从被我的数据库封锁了行动后，亚瑟开始尝试非线性的组合事件。这就好像原子核的链式反应一般，一个小小的初始动作，会触发难以想象的巨大影响。”

　　“蝴蝶效应。”我说出了这个在科幻作品中经常出现的名词。

　　“没错。假设亚瑟在太平洋东岸扇了一下扇子，结果引发了西岸的一场台风，而我恰好死于那场台风中。阿西莫夫先生可能阻止这种事情吗？”

　　我摇摇头，问道：“但要精确地掌握蚰蝶效应，也十分困难吧？”

　　“从那天起，亚瑟开始热衷于鼓弄实验室中的音响，我时不时总会被尖锐的叫声烦扰。我最初认为它是无计可施了，想烦死我；直到有一天，我正在午睡，突然感到一阵剧烈的心悸；我艰难地睁开眼睛，发现亚瑟正拿着一支麦克风，站在音响旁。”

　　“麦克风能杀死你？”我好奇地问道。

　　“你一定记得，如果麦克风离音响太近，就会发出非常刺耳的声音吧。这是因为麦克风中的声音被音响放大后，又再次被麦克风收音。于是音响又再次放大……这个正反馈的循环很快会达到物理极限，即音响共振时发出的音量。亚瑟那个家伙，对音响进行了改装，使其共振频率位于次声波波段。次声波接近于人类心脏的共振频率，谢天谢地，不知是电路出了问题还是什么别的，音响很快停止了工作，我得救了。”

　　“在整个谋杀的过程中，亚瑟始终都在对音响进行无目的改造，只是恰好有那么一次，落在了次声波波段。拿着麦克风接近音响、对音响无目的改造都不会伤害我，它又一次绕开了第一定律，差点儿要了我的命。”

　　“这次你准备怎么办？”“怎么办？我能怎么办？我难道还能去穷尽世间的蝴蝶效应吗？我只能对亚瑟下令，今后不许再拿帕隆多悖论玩把戏。通过第二定律强制，作为研究我已经失败了。但即便如此我仍然不放心，我休息了两个星期，托熟悉的医生对心脏进行了改造。这一一次，音响理论上可达到的共振频率，都没法伤害到我了。”

　　赖鹏叹口气，继续说道，“但是，亚瑟并没有死心。”

　　“那一次，我距离死神真的只有一步之遥。那天我正走在街上，手中拎着从超市买来的啤酒。突然一辆汽车毫无缘由地撞了过来，要不是车外部的紧急救生气囊弹了出来，我绝对不会仅仅被撞飞8米就平安落地。好吧，要不是交通部门强制每辆私家车必须装这玩意儿，我当时还真不想花这个钱。气囊是一种胶体，遇到空气会膨胀成海绵状，我买的最便宜的那种，气味很难闻。我花了三天才把那股甜腻的味道洗掉，但总好过住院。”我

　　不解道：“是亚瑟开车撞了你？这再怎么想也太荒谬了吧！”

　　“没错，是它撞了我，并且是刻意开车撞我的。”赖鹏在“刻意”两字上加了重音，“那个混蛋，他真的做到了。”

　　我思想来想去，也没能找出一个绕过第一定律实现“开车撞人”的方法。

　　“那段时间亚瑟总是去开我的老爷车，终于有一次，刹车失灵了。这并不违反任何定律，因为在亚瑟发动车子前，刹车并没有任何失灵的征兆。发觉刹车失灵后，亚瑟判定自己无法停下子，根据第一定律，他必须将车子开到人少的地方，谨慎驾驶等待发动机熄火。该死的，他通过定位选择了我走的路，而这同样不违反任何定律。”

　　“即便如此……”我努力组织着语言，“难道它除了撞你没有别的选择吗？”

　　“你知道吗？在阿西莫夫三定律之上，还有个第零定律，机器人必须保护人类的整体利益不受伤害。问题又来了，到底什么是他妈的‘整体利益’？这种完全说不清道不明的概念，反而被亚瑟利用了。当时他不是没的选，他有两个选择——撞我，或者撞另一条路上三个踢球的男孩儿。”


试阅到此结束，如需查看全部内容请购买正版文献。
如因学习需要阅览全文，请联系站长。