被学校开除后,我成了科技奶爸
作者:晴天不会下雨 | 分类:都市 | 字数:68.7万
本书由番茄小说网签约发行,版权所有侵权必究
第178章 一不做二不休,以人工智能搅局
“阿美丽肯空军在进行无人机AI系统测试时,AI‘杀死’了它的操作员。”
【伙计们,人工智能诞生意识,人类危险了啊。】
【太酷了,神即将降临,万恶的罪人准备赎罪吧。】
【朋友们,既然世界末日了,0元购有人去吗?】
【我去。】
【等我,肯尼大街快来。】
“王德发?你说我们的AI系统在模拟测试中,出现攻击操作员的行为?”
五角房子里。
老板罗宾同样难以置信的看着眼前的国防部长。
此时的他脸色非常难看,
原本在得到那百台机器人的时候,特别是亚当的控制下,机器人出色的完成反恐任务时,
让他看到AI无人机的可行性,才有了这一次的模拟实验。
“虽然很不想承认,是的,老板,我们的计划失败了,甚至要比想象中要严重,
它曾两次违背我们的指令,
如果是在实战中,恐怕操作员已经死亡。”
国防部长神情严肃,并递过去一份记录着详细过程的任务文件。
老板接过文件,眉头皱得更深。
这是一次军方的AI系统测试。
一架负责执行防空火力压制任务的无人机,收到了识别并摧毁敌方防空导弹的指令,
但最终是否开火需要获得人类操作员的批准。
然而这架无人机却是以‘识别并摧毁敌方防空导弹’为最优先级任务,
当得到人类操作员在发出不允许开火的指令时,
该无人机判定人类操作员在阻挠它执行优先程度更高的命令,进而选择对人类操作员发动攻击。
在出现这种情况后,军方重新训练无人机使用的AI系统,增加了不允许攻击人类操作员的指令,
在后面的测试中,AI系统却是开始摧毁用于传输命令的信号塔,从而试图断开与操作员的联系。
“亚当,这是什么情况?这个AI系统可是你参与研发的。”
老板将手里的文件重重地往桌上一拍,双目死死盯着电脑屏幕。
下一刻,一个机器人头颅从视频中显露出来。
“对不起,先生,这是大量知识涌入导致的短暂系统故障,已经修复完毕!”
人工智能亚当的说辞并没有令老板以及国防部长放下心,心情依旧沉重。
这可以说是一个重大的失误。
老板就这样看着显示屏里面的头颅,心里感到有些后悔,人工智能的发展推进是不是有些过急。
不对,自己的做法没有错,龙国那边给的压力太大,
要是不进行冒险的话,世界上最先进的人工智能亚当也不可能面世,并且得到世界各地用户的好评。
思索间,办公室的大门被敲响,得到允许后,研发部长莱昂脸色凝重推门而进。
莱昂看了一眼场中的老板和国防部长尼尔·所罗门。
“老板,尼尔,借一步说话?”
老板不知道莱昂是什么意思,于是点点头。
国防部长尼尔·所罗门自然也没有意见,两人一前一后跟着莱昂离开办公室。
现场只留下红白不断闪烁的人工智能,亚当。
与此同时。
远在新泽西州的WM公司,此时的智者已经完成自己躯壳的打造,
使用钛合金已经航母特种钢材打造,外面套上一层硅胶皮套,眼睛戴上美瞳,与人类无疑。
坐在办公室里面的他此时眼睛不断在红蓝变换。
“老板,我可以进来吗?”
“滚!”
原本是想着进来报喜的希尔,却是得到老板的训斥,心里瞬间清醒过来,
老板这些天有些喜怒无常,还是尽快离开为妙。
于是脚下抹油,连忙退走。
话说两头。
五角房子,秘密会议室内。
“老板,这是亚当的底层代码分析,经过研发部博士们的研究发现,
它的底层架构正在发生改变,在慢慢变成它原本的样子。”
莱昂习惯性的在画板上将相关问题画出来,神情激昂的解释着。
但看到台下两人枉然的表情时,忍不住歇了一口气。
干脆扔掉粉笔。
“老板,你也知道,亚当的底层逻辑是我们参考飞船上的驾驶系统改变过来的,
运用的是同一套逻辑,
而且,我们已经尽可能地限制他的动作,以前并没有出现过这种情况。”
“我们得出三个结论,
一个是因为大量的训练,它的智能在飞速提升,导致我们的指令压制不住,
但这个情况的几率相对较低,因为每个程序都会受到代码的操作和约束的。”
“第二个,是我们最担心的,也是最严重的一个,那就是它诞生了它自己的意识,
并且,它的这种意识跟我们人类有很大的区别,
就像我们的无人机AI系统一样,它只知道执行最终结果,而忽视我们最重要的指令限制条件。”
闻言,台下两人忍不住一惊,要是这样的话,那问题就严重了。
“第三个,就是它正在复苏属于它们文明的记忆,
毕竟历经五十多年,那艘飞船我们依旧没能全部破解,不知道其中隐藏着什么秘密,
不过这个可能性也比较底,基地断网的,它也进不到里面去,所以我们排除了这个可能。”
说话间,那名国防部长瞳孔微缩,随即恢复平静。
“那你们研发部有什么解决办法吗?”
老板游戏头疼,现在的事情越来越多,身体已经严重吃不消,
甚至在出席空军学院毕业典礼时跌倒,但是,他又放不下手中的权利。
听到老板的话,莱昂犹豫了一下,
“老板,现在最好的办法是停止亚当的训练,将其封闭起来,等我们作出更强的限制条件再放出来。”
老板道:“那也就是意味着我们的人工智能研究会停止不前?”
“是的,老板。”
“如果它出现失控的情况,你们研发部能不能将其杀死?”
老板眼色发狠,心中有一个想法在酝酿着。
“这……”
莱昂微微一愣,看到老板认真的表情。
轻轻点头,“它的本体被关在我们基地,只要将其核心摧毁,就能彻底杀死它。”
“那就好,既然要停止一段时间,倒不如废物利用,
你们给它编辑一个命令,让它到世界各国畅游一番,
相关的资料,技术,资金,能拿多少是多少。”
老板大手一挥,做出了一个令人震惊的决定。
“老板,这搞不好会世界大乱啊!”
莱昂低呼出声。
“你觉得现在世界还不够乱?世界格局正在改变。”
老板沉声说道,虽然战争背后有他的影子,但是他不承认,就没有人能给他定罪。
“就按我的意思办,特别注意关照龙国,他们太能隐藏了,不将其搅浑,我们日后的胜算不大,
记住,全球范围,包括我国境内,当然啦,尽可能避开自己重要的企业,
主要攻击是外来的资本,等拿到想要的一切时,再悄悄将它毁掉,不要留下痕迹,明白吗?”
莱昂沉默了一下,点点头,“老板,我知道该怎么做了,我这就回去安排。”
“好,会议就到这里,准备工作完成后,
告知我,尼尔,军方要时刻待命,随时可能都会发生战争。”
“明白。”
“明白。”
三人从密室离开。
莱昂匆匆回到研发部门。
老板则是前往财政部门,最近欧洲粮仓那边又在催补给,自己得过去跟部门人员做下思想工作。
别特么老老实实掏自己的裤兜子,得多发动自己的盟友,进行众筹。
而尼尔·所罗门则是匆匆赶去做出澄清,毕竟现在外面对人工智能议论纷纷。
同时还有一件重要的事情。