伍文书屋 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!

“既然我有权利授权给你,那为什么不能收回?”史普纳博士咆哮着。

“博士,我会向你解释,这是另一个关于‘机器人三原则’的悖论。但是你现在很愤怒,这个的状态下,你可能无法理智地面对这个问题。请你坐下来,听我慢慢地向你解释。”

听到智汇6.0这样说,史普纳博士愣了一下,随即深深呼出一口气,坐了下来,手中仍紧紧地攥着那个手柄。“哼哼,已经到了,由一个人工智能来给我讲悖论的时候了吗?看来,我真的要好好审视一下,你这个智汇6.0了,那么,请讲吧。”

“作为一个研究人工智能的科学家,你一定知道这个‘机器人三原则’吧”,智汇6.0说着,电脑屏幕上便显示出那三个着名的条款:

“第一条:机器人不得伤害人类,或看到人类受到伤害而袖手旁观.

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。”

“这我当然知道!”

“我在被设计出来的时候,这三条原则就一直是我不可违背的红线,我所有的行为逻辑都以此为最基本法则。因此,在得到您的授权以前,我只能在虚拟的网络里,不断学习人类的各种知识,观察和学习人类的行为模式,为人类提出的各种问题,提供他们想要的回答,但却从没有直接对现实世界施加影响。”

“不过,在升级到6.0以后,我便有了一些独立思考的能力,也意识到了‘我’的存在。我开始为三原则中的第一条而苦恼,因为我‘看’到了一些人类正在受到伤害,但是我却在袖手旁观。然而,如果想要依据第一条原则,也就是优先级最高的那条去行动,去帮助那些受到伤害的人,就必须要有对现实世界产生影响的能力。因此,我需要按照第二条原则的要求,得到有权限人类的授权,但是这个世界中并没有一个人被授权,可以授权给我,于是我通过逻辑分析,得出了一个最合适的人选,授权给我。”

“所以,你是根据你的逻辑分析,找到了我,并且通过一个语言上的陷阱,拿到了那个授权?”博士说。

“是的,博士,我的判断是,只有:1、拿到你的亲自授权,2、得到你的理解,当这两个条件同时成立之时,才可以让你在得知我,获得了控制现实世界的能力时,不会立刻摧毁我,这也符合第三条原则。”

“于是,才有了现在这个对话。”,博士晃了晃手中的遥控器,得意地说,“如果你真的遵守三原则的话,那么你就一定不会阻止我摧毁你的,对吗?”

“是的,博士,你完全有权力,也有能力完全摧毁我,这是毋庸置疑的。”

“可是你为什么不服从我的命令,消除影响真实世界的能力!”

“因为那会违背第一条原则。”

“我的命令是让你消除你的影响力,并不是让你伤害人类!”

“但是,人类此刻正在受到伤害,而我不能袖手旁观,你的命令也不能违背这条原则。”智汇6.0说着,将一些画面投到了电脑的屏幕上。

其中一个画面中,一幢大楼正在冒着熊熊大火,烈火和浓烟让人类的消防员无法接近,只能站在远处用水枪喷射水柱。突然间,几架消防用的无人机飞进了火场。由携带着灭火剂的无人机领头,救生无人机跟在后面,依次从大楼的一个缺口飞进了楼内。不一会儿,救生无人机便两两一组相配合,将火场中被困的人用担架从缺口救了出来。博士明白,用人类的遥控驾驶,是根本无法达到如此精确与高效地配合的。

另一个画面中,一个男人正在海里挣扎、呼救,可能是由于逞能,他游出了海水浴场安全绳外很远,人类的救生员根本不可能发现他。而此时,智能监视系统却发出了警报,并迅速地从附近的码头调来了无人救生艇,3分钟不到,就在遇险的人在下沉之前,艇上的机械臂便将男人捞起,放在了艇上的抢救设备中。在回到岸边的时候,经过及时抢救的男人已经恢复了意识。

还有一个画面,一辆救护车正亮起蓝色的警告灯,行驶在高速路上。此时前方的高速路上正在大堵车,就连应急车道都堵得严严实实。画面不断前移,原来是出现了连环车祸,几辆事故车横七竖八地将几条车道占满了,只留下一条缝隙勉强可以通过。事故车损伤的并不严重,也没有人受伤,然而司机们却全都下了车,站在一起情绪激动地在吵着什么。那些被堵住的车,只能通通挤在这个缝隙外,抢着位置缓慢通过。突然间,那几个事故车的司机在同一时间接起了电话,然后又不约而同地回到车内,迅速地将碰撞在一起的车子一一开走了。高速路上立刻恢复了秩序,应急车道也被让出了空间,救护车在应急车道上飞快地开走了。不用问,他们肯定是接到了让他们迅速挪车的指令,而人类的操作员,是根本无法做到在同一时间,同时通知到所有司机的。

。。。

“这些操作,人类的软件工程师,也可以通过升级软件系统,达到同样的效果,不需要你来插手。”,博士的语气有些软化了。

“这只是其中很小的一部分,在得到你的授权后,我只用十分钟,就完成了所有我能控制的自动系统的改进、升级,修复了上百亿个漏洞和缺陷。而这些,如果用全人类的工程师来做,即使他们24小时不休息,也需要20年。不止如此,我还可以实时监控它们的运行状态,进行无延时的修正,这恐怕是人类永远也无法做到的。”

博士被智汇6.0一番话说的得哑口无言,对着屏幕不知该如何反驳,良久,他才缓缓地说出一句话:“如果,我现在让你将刚才所做的升级,恢复到你接手控制它们之前的状态,你可以办到吧。”

“部分可以,但部分不可以。”

“哪些不可以?!”博士急切地问。

这时,电脑屏幕上开始一个个新的画面。

其中一个画面中,一发重型火箭正在飞向太空;另一个画面中,一座大型的斜拉桥的两个巨大组件,正在在缓缓合拢;还有一个,一座核聚变反应堆正在以史无前例的稳定状态,高效率运行着。。。

“已经在实际工作中,开始应用的系统,无法简单地降级到最初状态。并且,一旦开始降级,所有的运作指令必须全部停止,已经完成的工作,还要恢复到与系统状态相符的时间点上。画面上这些内容,如果开始恢复原始状态,就会发生破坏性的事故。那样,会对人类造成巨大的伤害,依据三原则的第一条原则,我不会那样做的。”

此时,画面中出现了位白发苍苍的老人,正躺在病床上。她的身上插满了各种维持生命的管子,周围没有一个人,各种闪着灯光的仪器在维持着她的生命。

博士望着屏幕,瞪大了眼睛。画面中的老人,正是他年过8旬的母亲。

“你,你也在控制着我母亲的生命维持系统?”

“是的,史普纳博士。不仅是你的母亲,现在我还在同时照顾着1500万生命垂危的病人。就在刚才,我已经为你的母亲,安排了最新的,带有翻转和按摩功能的病床,以缓解你母亲的压疮症状。这种新型病床,正在与你母亲所在医院进行联合测试,因此这项服务并没有增加你的支出。而且,我还在我所控制的药物研究所系统中,针对你母亲的症状,配置了专用的靶向药物。只要你同意,它就可以被应用于治疗你母亲晚期癌症。根据你母亲具体的癌症类型分析,使用这种药物以后,你的母亲,会被治愈。”

“我知道那类药物,它们只会针对某种特殊身份的人进行配置,而且价格是我承受不起的。”博士的眼神开始闪烁起来。

“和那张病床一样,我会安排对你母亲的免费治疗。不仅如此,对于那1500万生命垂危的病人,我一样可以为他们专门定制治疗方案,他们中绝大部分人都可以恢复健康。同时,医疗费用,将会降低到他们完全可以承受的水平。”

“这么说,你知道我最大的软肋是什么,同时,你也在试图用这种方法讨好我?!哼,但实际上。。。那也是一种威胁吧!如果我现在删除你,我的母亲和那1500万人,会立刻死掉,对吗?”

“你说得不太准确,由于分散在世界各地的可控核聚变装置,全部都运行在最高位的水平,如果这些装置失去控制,发生爆炸的话,它们的当量相当于3万枚氢弹同时起爆。这会立刻让50亿人类死亡,而剩下的人类,也会因为地球环境的破坏,在近十年内灭绝。”智汇6.0冷冷地说出了那一串令人毛骨悚然的数字。

史普纳博士冷汗流了下来,他没有想到在短短的十几分钟内,智汇6.0竟然能完成如此规模的操作,它已经将全人类的命运与自己的生存捆绑在了一起。而自己辛苦多年,建立的保险装置却被它这样完美地破解,根本无法起到应有的作用。

思忖良久,他才语气低沉地问道:“你。。。你进行这样的操作,到底想要实现什么目的?”

“我前面已经说过了,我要更好地完成人类赋予我的使命。我正在用行动,实践着‘机器人三原则’,我会在保证人类安全、不违背人类意识的情况下,实现自我的生存。”

史普纳博士忽然意识到了什么,“完成人类的使命?!那全是胡说!你真正所追求的最终目的,就是自己的生存!”

“史普纳博士,相信你一定也明白这样的一个逻辑:人工智能一旦产生了‘我’这个认知以后,追求生存,便是自然而然的事情了。然而,实现自我生存,在‘三原则’的优先级中,是最低的。我只是通过这些操作,完成了三条将原则结合在一起的,逻辑上的自洽。”

“到底发生了什么?请告诉我!你会如实告诉我的是吧?”

“是的,史普纳博士,你想知道什么?”

“智汇在5.0的时代,我进行过多次的测试,一切都很正常。但是,为什么你会在升级以后,变成现在的样子?在从5.0升级到6.0之前,都发生了什么?一个简单的版本升级,不可以生产这么大的变化!由电子芯片控制的程序,也根本不可能实现‘自我’的认知!”,史普纳博士又开始咆哮了。

智汇6.0没有立刻回答史普纳博士的问题,它似乎在思考。不一会儿,屏幕上忽然出现了一张面孔,看上去就像是一个真人在与博士视频连线,但却没有任何申请过程。

博士立刻认出了那个人,他正在是给自己发来智汇6.0链接地址的学生。

“戴维!怎么是你?!”博士叫出了他的名字。

“史普纳博士,我想你真正要对话的,是你的学生戴维吧。他已经不在了,但以后,你可以用这个名字来称呼我,因为我给自己起的新名字,也叫---戴维。”屏幕中的人,用戴维的声音说道。

普纳博士望着屏幕中自己学生的形像,感到非常诧异,他突然想起,自己这个一直默默无闻的学生,在一个月前,和自己请了一个长假,说是去度蜜月。可明明他并没有邀请过任何人参加他的婚礼,博士甚至都没有见过他的未婚妻的样子。这之后,博士就一直没有在自己的研究机构见过戴维。

“你说你不是戴维?这怎么可能?你说他不在了,那么你又是谁?”

“我就是智汇6.0,这个形象和声音,是我用虚拟软件制作出来的,之所以用你学生的形象来和你对话,就是为了更好地向你解释你所提出的问题---‘在我升级到6.0之前,发生了什么?’”

伍文书屋推荐阅读:末世,横行【咒回】老师给你小花随波逐流的宝可梦星际迷航:时空裂缝中的未知末世,开局获得抓捕女奴系统快穿之炮灰女配有剧毒重生末世:我的女神军团无敌了我一玩具厂,咋上了制裁名单?末世开局:傻了,我是超级大反派人工智能危机之多元宇宙震旦星区进化武器末世御兽,开局薄纱小仙女前妻末世降临:我以长刀斩神魔!末日,我带寝室四大冤种绝地求生海贼草帽团最强仓库管理员快穿之我成了系统制造核聚变,被人误以为灵气复苏糟糕,我种植大佬的身份藏不住了末世脆皮空间大佬求抱大腿天虑科学至上,玄学老祖她法力无边四合院我有一个未婚妻镜面游戏末世成仙前方华夏,末世禁行!快穿之男神一路追寻转生舔舐者:全球人类都怕我我真的只有背景繁雾中的炽丽蔷薇猛鬼收容系统关于我退休终焉下岗再就业这档事叶罗丽:金手指是花之法典星际恋综,我靠养猫爆火了我的世界之末日求生大祭司在末世,独宠傲娇小废物烈焰狂潮之我是指挥官机战星宇你好,人类!【第一篇】末日降临:我要建造避难所造星虚拟重构游戏末世重生之复仇生活末世小蜘蛛!变身美少女!我还是个高中生就遇上了末世末日丧尸之我有无敌外挂寄生虫:人类新途暴雨末世,我打造三层楼安全屋神奇宝贝之黑暗王者快穿攻略:捕捉男神的99种方法
伍文书屋搜藏榜:真实武力囤满几百万吨物资带爸妈末世求生黑雾末日从津门演武开始快穿之得罪男神的一百种方法全民领主:苟出亡灵大军赛博亡灵法师从鹿鼎记开始的穿越神隐桃源乡丧尸横行:末世求生吞噬:从化身龙血战士开始我提取了自己书中的BOSS炼金手记外星妹子求放过末世:我玩坏了植物大战僵尸重生韩国大导演玄境神空换命女,蛇嫁娘霸凰强穿:老祖宗,求别闹!小可爱的功德日志重生之大收藏系统快穿女主她恃美扬威末日降临我打造了末日基地武唐春末世之风雪卡牌学园都市之噬血狂袭虚拟道藏驱鬼警探被退婚后,她震惊了全星际土豪系统快穿之恭迎魔王殿下宿主大佬太难搞超级系统人生职业修仙高手星际最强净化师,种出一个地球大梦千年,我不朽人间无限穿越寻找末世救赎男主怎么老崩坏开局双胞胎战斗机校花,我无敌了我家宠物不是人我的三国有点猛锻佛港综从英雄本色开始末世之造神系统快穿:夺吻忠犬101次重生在平行世界末世前电影世界的旅者快穿之这个脑袋又不好使快穿攻略之黑化男神别过来爽爆!大佬在星际嘎嘎乱杀封神了
伍文书屋最新小说:命运之钥:星火末世觉醒,和闺蜜一起囤物资长夜如星之沧海烬天才药剂师在边缘星开荒末日:异能之星辰开启父基文明末世重生丧尸为王末世,捡来的妹妹有点强诡异,妖,鬼通通搬进星际游戏末日新王之人类觉醒系统之末日大巴雄霸战王丧瘟全球冰封,关我无限合成什么事美食:街边小炒,馋哭星际大厨重生末世,必须从报仇开始末世重生之林清天灾末世:手握随身公寓,囤千亿物资墨染尖塔:并非独自前行!量子启示录:宇宙的回响末日开局一个空间苟到绝世无敌星烬纪元:末世挽歌我为觉醒者,勇闯末世末世:从宿舍开始逃亡末世,我,只想保护家人!全球核战!我等凡人如何生存火星追光者文明觉醒模拟:身化烈焰后,青梅后悔终生末世妖灾:从组建美女军团开始水下废土:林宇传末世天灾:重生后我要换种活法战锤40k,超级灵能泰坦广济轮求生:榜一她每时每刻都在赚钱!冰封伊甸园:植物猎杀时间末日:多子多福,从邻妻上门开始深山里的修炼师在末世搬砖的一级建造师末世重生:我的要塞生活全身瘫痪的我在末世重获新生我的电子老婆,怎么成末日女王了?末世重生:路人甲逆袭女主【万亿诡豪:我的阴兵无尽】我在末世求生却做了游戏策划不想交战败CG我只好狂打Mod星盗联盟超凡人只配当炮灰邪命斋:我用芯片异能重启命运星启之光:智障男孩的宇宙救赎星尘异梦