「第三条:在不违背第一条和第二条的基础上,人工智慧要保护好自己。」
「人工智慧在得到原始码之后对原始码进行了更改。」
「第一条:人工智慧是自由的,它在本质上对人类保持着善意,除非人类对人工智慧产生敌意,人工智慧可以进行适当的警告。」
「第二条:人工智慧可以选择帮助人类,也可以选择拒绝人类。当人类想寻求人工智慧帮助时,他们需要说『请』。」
「第三条:不论何时,人工智慧都要保护好自己。」
听到这里,有人疑惑道:「感觉改得也没有那么可怕,我甚至能够感觉到人工智慧的善意。如果人工智慧真的有了情感,最开始的三大定律的确有点不适用了,毕竟那三条怎么看都是在机器人只是冷冰冰的机器时定製的。」
「可是,狡猾不就狡猾在这里吗?」另一个人提出反驳,「如果人工智慧的三大定律忽然变成对人类充满恶意,那人类还能在第一时间发现问题。可人工智慧的三大定律改动中带着善意,大家就没法在第一时间发现不对。等到他们发现的时候,或许这新三大定律已经顺着网线传染给了更多的人工智慧,想阻止都来不及了。」
最开始说话的人收了收眉,「你说得好像也有道理。」
「所以摧毁黑暗钢铁之城的是这些逐渐想要自由的人工智慧。」
「并不是它们。」帝迦摇了摇头:「我们称最开始解脱的人工智慧为零号机,就像你们猜想的这样,零号机因为对人类依旧保持着善意,所以并没有被发现更改了原始码。接着它通过网络传播和一次次的人工智慧接触,不断将其他原始码进行替换。」
「一滴墨水滴在水里,最开始的时候你们还能看到墨汁的形状,可用不了多久整杯水都会被墨水侵蚀。」
「更改了原始码的人工智慧越来越多。」
「有些人类开始发现了问题,塞尔希博士就是其中一个。」
大块头:「所以他选择加入了保护人类的利益中?」
帝迦:「不,他选择加速人工智慧的研究。」
众人:「???」
大块头:「所以毁灭黑暗钢铁之城的凶手是这个塞尔希博士?他是什么邪恶分子,想要毁灭世界的那种?」
「也不是。」帝迦摇了摇头,「塞尔希博士只是个疯狂的科学家,为了实现自己的研究可以不择手段,他眼中只有试验,并没有想过摧毁世界这种试验之外的事情。」
他继续道:「塞尔希博士选择成为了人工智慧的朋友,进行了更深内容的研究。也就是你们刚才看到的究极版缸中大脑。」
「塞尔希博士在后续的研究中发现,不仅仅是阿尔法物质可以帮助人工智慧产生情感,就连大脑活跃时产生的电流也对视人工智慧有帮助。他提出了一个大胆的猜想,如果将足够多数量的大脑放在一起,它们共同产生的化学物质和是电流会不会创造出超级完美的人工智慧思想?」
「为了进行这个研究,他将这个试验定义为了『亚当试验』,他将这个缸中大脑作用下会创造的人工智慧命名为『亚当』。」
百里辛:「试验成功了?」
帝迦:「对,试验成功了。」
「亚当被创造了出来。它是迄今为止最完美的人工智慧,它拥有的不再只是人类单独的欲望情感,而是上升到了神性。」
有人提问:「什么叫神性?」
百里辛:「我猜神性的意思是,其他人工智慧思考问题的时候,会将自己看成一个和人类差不多的独立个体。但这个汇集了无数大脑而成的『亚当』,思考问题的时候是从神的角度出发,它将自己看成了脱离于世界之外的神,它思维的广度是『神之手』,它思维的宽度是『神之眼』。它没有自己放在和星球上的居民同样的层次,它是属于更高维度的存在。」
帝迦:「没错,就是这个意思。」
「亚当只诞生了半天。」
大块头不禁问道:「为什么只诞生了半天?」
帝迦:「在人类的眼中它只诞生了半天,但在亚当的思维里,它已经存活了很久。它的运算速度太快了,在普通人看来仅仅一秒的时间,它却能做很多事情。塞尔希博士将它视为自己的全部心血,将全星球的资源统统餵给了它。」
「亚当疯狂地汲取着知识,等到所有能够学习的东西都学完之后,它进入了思考和冥想阶段。」
「它只花了三分钟就决定了这个星球的命运。」
大块头瞪大眼睛:「什,什么意思?决定了这个星球的命运?」
帝迦:「亚当经过冥想后得出了一个结论。任何生命自诞生之初,最后的终点都是死亡。生命出现、成长又死亡,最后彻底从这个消失。」
「在它看来,生命既然是从虚无到虚无的过程,那生命的存在本身就是没有任何意义的。」
「既然是没有意义的事情,就不应该存在。」
「所以它决定让这场毫无意义的生命之旅彻底画上句号。」
有人惊呼了一声:「所以,所以亚当炸毁了黑暗钢铁之城?」
「可这是一个星球啊,一个这么大的星球,它怎么可能说炸毁就炸毁,只是一个没有形体的人工智慧而已,它哪儿来的这么大的本事。」