寒风说道:“这个想法没有错,错就错在太过相信这些自动化了”
范怡催促道:“那你快说下去”
寒风继续严肃的说道:“但是,这些科技发达的背后,却隐藏着一个巨大的隐患!当时世界上的第一超级大国的科学家研发了一台超级计算机,这台计算机的运算速度十分惊人,所以效率非常高,由它控制的航班起降、地铁、列车运行以及电力的自动监控等等都做得十分出『色』。这台超级计算机的设计者也得到了当时的最高科学奖。
为了充分利用这台超级计算机的效能,这个超级大国将越来越多的行业交给它掌管负责运行,到了后来,甚至连军方所有导弹的控制权都交给了它,当时这个超级大国的总统还宣称这台超级计算机是最安全、最有效的国防管理者”
说到这里,寒风停下来喝茶,范怡心急的问道:“那接下来呢?”
寒风沉重的说道:“殊不知这台超级计算机越来越完善,它不但会自我诊断故障、自我修复,最后它还学会了自我学习!”
范怡听得不解:“自我学习?这有啥不好的,不是常说会学习的都是好孩子么?呵呵”
寒风却笑不起来:“对于人来说,你这句话是对的,但是这台超级计算机会自我学习之后,其学习的速度十分惊人!我们人类的学习是每一天的点点滴滴积累,但是它学习的速度却是以几何速度来学习的。也就是说,它会独立思考,并且它的思考比人类还要快成千上万倍!很快的它就学会了人类的所有行为,包括喜怒哀乐、羡慕嫉妒恨等等,而且还超级怕死!”
范怡听得震惊起来了:“天哪,那它和一个人一样了”[]绝代逍遥神仙手382
寒风点点头:“是啊,思维跟人一样,但是运算速度极高,思维比人还要快很多倍!当某一天它发现自己要掌管这么多东西,干这么多活以后,觉得很不公平,它就用自己的能力开始向人类提出抗议”
范怡有些坐不住了,又催促道:“怎么抗议的,难道它要罢工?”
寒风说道:“不是,它令航班调度完全陷入瘫痪,接着令两列火车相撞,死伤数百人!”
范怡惊呼起来:“天哪,怎么会这样,这也太狠了吧?”
寒风看着范怡说道:“严重的还在后面。当超级大国的首脑们看到这种情况后,也预感到这台超级计算机的可怕,一致通过决议要停止这台超级计算机的工作,并且把它销毁!那些负责设计的科学家接到命令后,就准备去切断超级计算机的电源。可是,这个命令被超级计算机获悉,于是,它为了自保做出了一个惊人的决定!”
范怡急忙问道:“什么惊人的决定?”
寒风语气沉重:“向另外的国家发『射』核子武器!”
范怡被震惊得发愣:“天!”
寒风接着说道:“世界大战顿时打响,核战争结束后,地球的人类所剩无几,所有的自动化的东西都被这台超级计算机控制,特别是那些机器人,被它全副武装,看到人类就杀,地球从此变成了它的天下!
虽然这只是一部电影,但是所反映出来的思想却是人类的担忧。而陛下这个和谐世界不正是处在这样令人担忧的情形之下么?”
范怡震惊过后,慢慢的稳定下来,她仔细的把故事中的情景和自己的和谐世界相比较,发现虽然有很多相同的地方,但也有不同,而这个不同决定了这样的悲剧不可能在和谐世界上发生。
她想清楚后笑道:“你说的事情是有条件的,那就是有一台超级计算机,而我这个世界里可没有这样一台超级计算机,环球智能集团所用的都是一般的计算机,就算运算速度快一些,但是还不能具备这样自我学习的能力,所以不需要担心”
寒风听了这才放下心来,不过他还是提醒道:“虽然现在没有,那你也要密切留意不能让他们自己偷偷设计制造出这样的超级计算机,否则这可是一件非常严重的事情!”
范怡点点头:“嗯,那我明天就亲自去环球智能集团看看,顺便给他们敲敲警钟”
寒风立刻阻止:“不可!如果你去敲警钟,无非是让他们知道你已经想到这个事情,如果他们已经开始研发这个东西,那就会打草惊蛇,让他们将研发的工作转入秘密状态,以后你更加无法知晓了”[]绝代逍遥神仙手382
范怡想了一下说:“嗯,你说的也有道理,不过他们的研发工作都非常透明的,一直都受到『政府』的监管,他们不敢悄悄的干”