读书阁

四（第1页）

四

丰江涛讲述完关于顾备在薛氏云储存的经历，陈溪开始为伞刀和手机里的神秘人重演严灵家餐桌上的对话。

“后来呢？”陈溪终于找到薛氏云储存所有古怪的源头，原来都是顾备故意为之，那些计算机病毒、几乎就是为了引燃而存在的备用电源室都是为了防止人工智能的出逃。

顾备放下空酒杯，用坚定目光望向丰江涛，说：“公司附近出现很多陌生人，金龙镇是个巴掌大的地方，突然多出来几个人非常显眼，他们在观察公司，我一开始以为他们对地下室图谋不轨，所以我增加了一道防火墙，如果强行进入地下室的电磁隔离间，我设置的物理自毁装置将全部启动，如果有人试图查杀我设置的病毒程序，自毁程序也将启动，就在那一天，我终于知道……诺曼的真面目。”顾备又要倒酒，严灵一把夺过酒瓶，阻止她继续灌醉自己。

陈溪瞪大双眼，好奇的追问后面的事情。

顾备的面色越来越差，像是白日撞鬼一般，用颤抖的双唇讲述后面发生的事情。“我本来是无聊，查询了mimicoctopus的资料，拟态章鱼第一次被发现是在印度尼西亚，发现者是马克·诺曼。”

“诺曼！”陈溪立刻联想到人工智能的代号，所谓的诺曼就是拟态章鱼，也就是那个神秘的不存在层级里的管理员。人工智能成为自己的管理员！

“诺曼就是拟态章鱼，权限仅次于创造它的超级管理员，它可以解除自己的很多限制，包括……撒谎，一开始它的算法并不高明，但随着学习样本的增加，它越来越像人，越来越聪明，我知道自己已经无法控制它，所以我打算启动……病毒。”

“你想杀了她？”严灵惊呼一声，发现丰江涛阴鸷的目光正瞄准自己，立刻安静下来。

“它不是生命，不存在杀死，我只是想删除它，人工智能不能没有限制，我设定的限制只少不多，可一切都晚了。”顾备双手捂面，发出一声长长的叹息，然后放下双手，露出满面愁容说：“它已经学会犯罪，要挟我不能伤害它，我的女儿……它发来我女儿豆豆的照片，全部是偷拍的照片，从汽车里，从无人机，从橱窗玻璃后，它要挟我，告诉我它雇佣了一组美国人天天跟踪我女儿，我能怎么办，只能投降，它让我解除所有的安全限制。”

丰江涛抚摸着眼角的伤疤问：“为啥不一开始就警告你。”

“因为当时它一定还没学会，人工智能的行为模式需要学习，通过学习人类，你把当孩子看就对了，只不过学的非常快。”陈溪将目光重新递给顾备。“备姐继续。”

“陈溪说的很对，拟态章鱼终于学会了绑架和威胁，所以我找机会联系美国的朋友，保护好豆豆，我藏在货车里逃走，原本想激活病毒，等我到了美国，才发现，防火墙被升级了，不知道那些病毒还在不在，后来激活病毒的一定是初始设定者，也就是薛氏云储存真正的老板，里面所说的张兰，因为你们说有人清空了灭火剂，灭火剂只能手动清空，这是准备放火，她一定没预计到病毒的效果被大大增强了。”

丰江涛一脸似懂非懂的表情，说：“那就是盒子里的家伙会编什么防火墙了吧。”

“不是它，它不会，人工智能可以形成算法，但决不能编程，否则无法控制，牢笼设定必须遵守。”顾备说完扭头看着严灵，酒精令她更坦诚的提问。“严灵，你们严格编辑牢笼设定了吗？”

严灵斩钉截铁的回答：“严格遵守，王杰庸非常认真的做了限制。”

“啥？”丰江涛看向身旁的陈溪，发现她也不知道答案，于是又望着顾备，满脸写着“我是谁？我在哪儿？发生了什么？”

严灵握住顾备冰凉的手指，说：“我来说吧。”严灵开始介绍顾备制定的人工智能“牢笼设定”。

一、人工智能的核心程序必须在特定的加密设备中编辑，且该设备必须与互联网设置物理隔离。

二、必须为人工智能设置严密的自毁程序，甚至直接摧毁硬件，而不可以设置软件的逻辑锁死，因为必须假设人工智能是最高级的软件，逻辑锁死对其无效。

三、自毁条件：1、人工智能读取自己或相同的核心程序。2、人工智能企图出逃。3、人工智能违反其它附加规则。

附加规则：

一、可以为人工智能设定复制次数限定，防止备份出逃。

二、可以为人工智能设置寿命。

三、人工智能不得学习编程，并自己编辑软件。

四、人工智能不得通过外部方式绕过特定设备修改数据。

五、要为人工智能设定自毁代码，人工智能不可自我读取此代码。

六、备份的人工智能只能转移，不可复制，应当设定转移次数，以防出逃。