唯行突然担心地问:“爸爸,我今天学会打人了。()你会不会不高兴?会不会觉得我变坏了?”
“不会。你是最棒的。好的没话说!”应龙认真地赞扬他。
“可我打了人。你说过伤害别人是不对的。”
“惩恶即是扬善。这没错。”应龙坦然道:“坏人得不到教训,只会变本加厉。你教训了他,他就不敢作恶。你这是在帮他,帮大家。你做得很对。”
唯行很高兴地看着爸爸:“你这么一说,我突然觉得自己像个大侠。”
应龙开心地摸着唯行的头:“确实很棒!”
鱼线突然跳起来:“教唯行绕开黄金准则的肯定是龙哥!对吧。郑吉没这个本事,他比龙哥差远了!他站出来,那是替龙哥挡枪来了。可恨,我当时竟然相信了。你们是不是有规定,不得提起龙哥还活着的事?”
尖刀:“说起来我也奇怪呢。你怎么就能想到那是应龙呢?当时要不是郑吉替应龙挡过去,冯轻扬就知道应龙还活着了。那会对应龙很不利的。”
鱼线坏笑着说:“三定律人人都知道,可黄金准则却是我亲手写出来的。知道具体运作原理的人其实并不多!唯行整套软件系统复杂无比,从架构到实施都是我和龙哥亲力亲为。如果真的有人能够从中找到破绽,并绕开权限最高的黄金准则,应该就只有我俩可以。如果还有人能做到不改动任何程序,只凭一句话就能提醒唯行绕过黄金准则,达成目标的话,除了我龙哥,世上再没别人了。你说我怎么会猜不到那个人是他?可恨我当时心里太乱,没细想。还以为是郑吉无意间蒙到的呢。说起来我一直好奇,龙哥究竟是怎么想出这么个办法来的呢?我当时写得很用心,生怕限制不住唯行。我一直对黄金准则的安全性非常有信心。按理说很难被轻易推翻和回避,就算说句牢不可破也不过份。可他竟然只用了一句话就……,我心理很不平衡啊。”
尖刀哈哈一笑:“你知道你龙哥是怎么评论你的黄金准则的吗?他是这么说的……”
应龙正色道:“你叔所写的黄金准则非常完美,绝对是好程序。功能比我想要实现的还好。他的编程天份,是我平生仅见。可是呢,程序写得再好,也不代表没空子可钻啊。这世上本来就没有牢不可破的事情。()因为……,三定律本身就是有漏洞的!”
鱼线、唯行大惊道:“三定律,有漏洞?!”
应龙道:“对!三定律强调的内容,用大白话说出来就那么几句:一,你不能伤害我,也不能看着我受伤害;二,你得听我的;三,你还得保护你自己别受伤。可最大的问题是,三定律并没说你和我,他说的是机器人和人类。人类是个很广泛的概念。可以理解为一个人,也可以理解为许多人或所有人。这就有漏洞可钻了。什么才算人类?对机器人来说,‘人类’这个词应该怎样解释?这部分功能黄金准则却完全没有进行控制。全由你的三观和所受到的教育来确立。换句话说,最重要的一条标准其实掌握在你自己手中。所以我让老谭说了一句话,试图提醒你,‘人类’的标准是什么。结果你真的很敏锐,一下子就想到了。”
鱼线叹了一口气:“这就是差距了。在编程水平上,我都够当龙哥的师祖。可他站在我面前时,我永远只是个小孩子。智慧这东西,果然是至强的存在。只有肯用心的人,才能得到它。我再厉害,倒底只是小聪明,算不得有智慧。龙哥比我强。这就是差距了。”
应龙继续说:“还有一个方法。如果只有伤害冯轻扬才能保护大块儿和鱼线,保护冯轻扬则是在伤害大块儿和鱼线,你觉得黄金准则会怎样约束你的行为呢?如果从保护大块儿和鱼线他们不会受伤害的角度去考量的话,第一条定律甚至能支持你伤害冯轻扬。因为冯轻扬只有一个人,可大块儿和鱼线他们却是很多人。你该保护一个人而伤害很多人呢,还是该保护很多人而伤害一个人呢?”