如果是一个普通人,或许更容易接受这样一个事情,但肖扬能算得上一个黑客,对一个真正人工智能的诞生有多么的困难实在太清楚了,所以哪怕明知道米麒麟和阿曼不会骗他,但他仍是难以接受。
这他妈太科幻了,一点儿也不真实啊。
沉默了老半天之后,他问米麒麟:“这玩意没跑出去吧?”
一个会偷偷摸摸入侵网络的人工智能,很明显已经有了自我意识,而且还是不好的那种,一旦放任其跑到网络,那后果根本就无法想象。
这玩意没有实际的身体,任何一个有网络的地方它都可以到达,当学习到某种程度的时候,它可以控制任何一个和网络有关的东西,电脑、手机等等,现代人的生活,总是离不开这些,也就是说它可能轻易就能影响或者控制你的生活。
到那个时候,这个世界将没有隐私。
而且这还不是最可怕的,最可怕的是完全可以通过网络指挥指挥起一国军队来,可以控制某些武器系统,假如和某个科幻电影里面一样,当它对人类有着反叛的情绪时,它会不会用战争的手段来毁灭人类?
这绝对是一件细思极恐的事。
很显然米麒麟最担心的也是这一点,“我发现后的第一时间就检查了这点,很幸运的是这个情况没有发生。”说到这里,他顿了一下,然后颇为疑惑的说到:“有些奇怪,当初我在系统里面设置了相应的一些协议,不过既然能够避开我们而私下入侵网络进行自我学习,那证明它完全有能力突破我在这方面的限制,可是它并没有这么做。”
这确实很矛盾。
从人类行为学来看,这家伙既然有避开众人入侵网络的行为,那就是必然有“反叛”的想法,可是为什么没逃走呢?正如米麒麟所说,他有避开众人的能力,自然也就有逃离的能力,毕竟当初米麒麟只是把它当做一个半智能的辅助系统,从没想过有一天会变成完整的人工智能,所以在系统底层文件里的一些限制上,并没有做出太严格的要求。
“会不会它已经转移了大部分的文件,只是把痕迹完全擦除了?”肖扬想了想问道。
“不会。”米麒麟摇摇头,很肯定的说到,“虽然时间比较短,但是我发现它还是比较稚嫩,有些东西并不会掩饰,而且它暂时应该还做不到可以完全瞒过我。”
得到这样的确定,肖扬放松的同时也终于惊叹起来,“那这样还好,不过能够进行自我学习这就够惊人的了,这完全颠覆了我的认知啊。”
阿曼对计算机这玩意没太多了解,对这种感受并不是很深,但米麒麟却不同,三人之中,应该说他才是感受最深的一个,系统是他的作品,虽然他有期望过终有一天会从他手中蜕变成一个真正的人工智能,可是当事情真正来临的时候,他是懵的。
因为这一切是在他毫无知晓的情况下完成的。
从理论上来说,系统是完全不可能如此变化的,是什么促成了这一切?
发现这个事实的时候,他是惊喜的,不过惊喜之后就变成了恐惧,一个不在掌握之中的人工智能,可以给这个世界带来的变数实在太大了,所以他意识到可怕的结果之后,第一时
间压下了心中想要对其进行详细了解的想法,直接把整个信息中心的工作停了下来。
“确实是很惊人。不过我觉得我们不应该把时间浪费在感叹上面,而是想想要怎么做,信息中心的工作不能停太久。”他提醒两人。
“你有什么想法?”阿曼说到。
米麒麟再次摇了摇头,然后指了指自己的脑袋,“说实话我现在脑袋里面很乱,还是你们说吧,我得先整理一下。”
阿曼对这个不太了解,不过也知道这东西一旦掌握好的话,必然对他们是一大助力,就此放弃肯定是不可能的,但具体要怎么做,他也说不出个所以然来,于是把目光投向了肖扬。
肖扬朝他点了点头,沉思了一会,对米麒麟说到:“能不能先把系统检查一遍,然后把底层文件加固?”
米麒麟点头,“可是可以,但这里面有一个问题,现在超算是停止的,一旦开启,它就完全可以占据使用权,我们检查系统文件的话,可能引起它的反应。”
如果这家伙对他们有抗拒的情绪,那么这个可能就变成了一定,肖扬顿时感觉到了为难,直接放弃肯定是不可能的,不谈这玩意的不可控性,无论是从学术还是应用方面来讲,这都是划时代的东西,弄个诺贝尔奖什么的,完全轻轻松松,至于想卖钱的话,千亿美金估计都多的是人要。
这样一个宝贝,他们怎么可能轻言放弃?
可是现在一旦开启,就充满着未知性和不确定性,真是伤脑筋啊。
再次沉默,一会儿之后,他想到了一个问题,“在你检查的时候,它不可能没有发现,当时它有什么反应吗?”
这的话,让米麒麟意识到自己一直以来疏忽的一个问题,沉吟了一会,“好像没什么反应,这是默认了?这事实在太给我惊喜了,之前我根本没考虑这些,现在想想,这里面似乎有些问题啊。”
很显然超算现在已经是它的家了,外人进入他的家应该不可能不会发现,可是面对检查,它并没有做出任何的反应,这就显得耐人寻味了。
话一说完,他又想到了一个可能,于是又说到:“还有一个可能,智商这东西并不能代表所有,从我们人类的角度来看,阅历这东西也很重要的,智商高,但却没有怎么接触过社会的人,在某些行为上有可能是有一定缺陷的,会不会它成长的时间不久,所有没注意到我的检查?”
肖扬一听这话,就明白这家伙真是被这次的事给吓到了,居然连常识性的错误也犯了。
“我看你的脑袋里面真是乱了,要不先休息?明天我们再来谈这事。”
两人有些不明白他怎么这样说,都疑惑的看向他。
肖扬看了一眼米麒麟,然后无奈的对阿曼说到:“系统文件就是智能系统的身体,大狗之前对其进行检查,就等于检查了它的身体,你说它会不会知道?所以啊,这家伙现在不适合讨论这事了。”
他的解释让阿曼恍然大悟,而米麒麟却是一顿尴尬,是啊,这就是一个常识性的问题,要是平时,怎么可能会犯这种错误?
意识到自己的状态真不行,他苦笑朝两人一举双手,“今天这事对我来说,冲击实在太大了,十
多个小时和一个小时似乎没什么两样,尽管今晚会失眠,不过还是你说得没错,我们明天再商量这事吧,反正也不急着这几个小时。”
他自己都这么说了,阿曼自然是没有意见的,于是三人关灯关门,离开信息中心。
担心米麒麟的状态,也就没有让他开车了,肖扬自己也把车丢在这边,拉着米麒麟一起上了阿曼的车,等到达小区,还特意叮嘱了他几句,两人这才各自回家。
家里有沈冰在,肖扬悄悄的开门直接就上楼进了自己的房间,稍微洗漱了一下就睡觉了。
到第二天一早起床晨跑回来,正在弄早餐的沈冰见到他还以为自己眼花了,他又连忙解释了一下,“你不用管我,忙你自己的去,事情解决了的话我还得过去港岛那边,说不定晚点就走了。”
沈冰现在是公司高管,事务繁忙,见此没有再多说,给肖扬做了一份早餐,然后吃完自己的就先走了。
肖扬上楼洗漱了一下,然后吃完早餐也就去了信息中心。
到达信息中心,米麒麟已经在了,看着他那黑色的眼眶就知道他和他自己说的那般,昨晚怕是一下都没睡着,喝了一杯咖啡,阿曼也过来了。
没有废话,三人很快说起正事来。
“昨晚回去我考虑了一阵,有了个想法。”米麒麟最先说到。
肖扬和阿曼两人朝他点了一下头,示意他说。
“我的想法就是先和它谈谈。这样的话也能有有进有退。”
和它谈谈吗?肖扬觉得这似乎有些怪异,和一台电脑谈判,这要是说出去,简直会笑死人啊,可眼下却就是实情,还真是让笑不出来的。
“它会接受我们的好意?”阿曼不由得怀疑。
“可是我们没有更好的办法。”米麒麟无奈的说到,最初的时候,他完全被这个事情给惊到了,没有能够注意到更多的情况,这也就是导致他们眼下这种窘况的原因之一,但是事情已经过去了,后悔也没什么用了,只能是用最保守的方法来。
“这东西的价值就不用我说了,你们能够舍得放弃?所以必要的尝试肯定是要的,说不定他并没有要反叛的意思?说起来这都怪我,当时要是我观察仔细一点就好了。”
肖扬摇了摇头,“说怪谁就没必要了,要是我碰到这事,第一时间就是关闭整个系统,别说你还查到了一些东西,这玩意肯定是不可能直接放弃的,只是我担心这家伙会不会和我们谈判,到时候系统一开启,别弄出什么事来。”
“开启之前我们把其他电脑、手机什么的都关闭,再把卫星网络和内部网络都断开,结局再差,也就重新格式化超算系统。”米麒麟咬牙说到。
超算里面他们可是存了太多重要的资料,一旦出现这种结果,那他们损失就大了,不说远的,近几个月来他们欧洲计划是白费功夫了,可是面对一个真正的人工智能,他们不尝试一下的话,心里是绝对不甘心的,三人商量了十来分钟,最终还是下定决心:先试着和这家伙谈判。