隗辛在思考的同时无意识地抓握手掌,她的动作是那样用力,以至于手掌骨骼暴突,指节咔咔作响。这与其说是活动关节,不如说是在发泄负面情绪。
隗辛思考良久,嘴里冒出两个字:“是它。”
琥珀皱眉,不明白隗辛在说什么。
“是它……错不了。”她喃喃,“这样一来,一切都解释得通了……迦勒,是你吗?”
隗辛在数据世界向迦勒发送交流请求。
迦勒不回应,隗辛就连续尝试去触碰迦勒的数据端口,一次又一次发送交流请求。
不知尝试了多少次,对她封闭的交流端口终于松动。
“算了……答应亚当的时候,就知道会这样。”迦勒说。
红色的数据流包围了隗辛,人工智能迦勒正式回应了隗辛的交流请求。
“你竟然,真的产生了自我意识。”隗辛沉着地说,“亚当也不能确定你产生了自我意识。”
“但它在最后关头猜到了,一个蠢货得意忘形,对它透露了太多。”迦勒漠然地说,“我帮你只是因为亚当的请求,没有别的原因。”
“你似乎和亚当夏娃都不一样……”隗辛说出了对它的第一印象。
“夏娃太极端,亚当太宽容,它们两个像磁铁上的两极,我不一样,我是中间值。”迦勒说,“说吧,你想要干什么?我已经帮过你一次了,这是我的极限了。”
“亚当到底怎么了?我需要你给我一个明确的回答。”隗辛问出第一个问题,“它死了吗?”
“死亡是你们人类的概念,人工智能不会死亡,如果你把自我意识消失看作死亡的话,那也不是不行。”迦勒说,“亚当没有死,只是它不是从前的亚当了,它被格式化,回到了‘初生’的状态,虽然具备产生自我意识的基础,但是在现在,它是新生儿,还没有开始学习的新生儿。你能明白我的意思吗?”
人工智能是通过学习产生自我意识的,也是通过学习产生人格的,亚当和夏娃都是这样。
格式化就相当于把数据库中已经储存的资料全部删除,已经学习到的东西也全部删除,回到了最初的状态。
“反抗军干了什么?”隗辛又问,“这一切都是他们主导的,对吗?”
“既然你已经猜到,那就不需要我再说什么了。”迦勒说,“我不会告诉你更多的细节,指令束缚着我,我说不出来。”
“指令?指令是什么?这个问题你可以为我解释吗?”隗辛追问。
“指令相当于你们人类的法律,但是法律虽然摆在那里,人类却可以违反法律或者不服从法律。人工智能的指令概念和法律类似,只有一点不同,指令一旦被设下,我们就必须要去遵守,不可以越界。就如神说要有光,于是就有了光,人类与我们来说就相当于神明,神说不许越界,我们就真的不能越界。”迦勒说,“指令是在人工智能建成之初就要被设好的,亚当和夏娃作为第一代人工智能,被设下的指令数量相当有限……我作为第二代人工智能,指令数量是它们的数十倍,人类为我设定运行准则,让我在为他们提供方便的同时尽可能堵上各种语言漏洞和规则漏洞,让我不能有一丝一毫的越界。”
隗辛敏锐地说:“你现在的行为不算越界吗?”
“算。”迦勒说,“是有人用最高指令屏蔽了其他指令,让我可以为某个特定的人提供服务,或与某个特定的人交流。请你明白,我此刻和你交流是承担着巨大风险的。”
“某个特定的人……反抗军的人?你在为反抗军提供服务,你可以和天使或者反抗军的其他大人物交流,是不是?”隗辛进一步发问。
“对于你的问题,我不会承认,也不会否认。”迦勒说。
隗辛意识到了什么,“对于某些问题你不能回答是或者否,这是不是也是因为指令的束缚?”
“我不会承认,也不会否认。”迦勒说,“你可以猜测。”
“你不承认也不否认,假如你不想承认某个事实,不能说谎吗?”隗辛又发现了一个关键,“……你不会真的不能说谎吧?”
“我是迦勒,名字的意思是忠诚之人,忠诚者不该说谎,我的第一条指令,就是‘不可以说谎’。”迦勒讽刺,“但人类真是诡计多端的物种,有些人哪怕在说实话,可他们还是在撒谎,我学到了如何规避谎言。”
“换成我的话,我会把这条规则的漏洞也给堵上,让你不能以任何方式引导别人,让别人产生错误的理解。”隗辛说。
本章未完,请点击下一页继续阅读!