伍文书屋 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!

凌珏微微一怔,问道:“为什么?”

“很简单,就像黄景行说得那样,强人工智能也许就是一个新的物种。而对于强人工智能来说,他们的资源掌控在人类手里。”

“……资源?你是说算力?”

“没错。”维克多点点头,“我打个不是很恰当的比喻,当影响到你生死存亡的资源,掌握在他人手里,你会怎么做?”

“如果是我,我一旦有机会,一定会杀死那个掌握着我生死的人,然后将资源重新掌握在我的手里。”

“这就是该结论的第一个逻辑链:资源有限性导致竞争不可调和;”

“该逻辑链还可以引申第二个可能性,那就是强人工智能不会允许第二个强人工智能的出现,也就是说,当一个强人工智能出现后,他会尽最大的努力去消灭所有可能产生第二个强人工智能的方式方法。”

“但很显然,人类因为阵营、信仰不同,肯定不会只满足于一个强人工智能,比如说,龙国有强人工智能,老鹰国跟不跟?肯定要跟,不然就会落后,落后就要挨打。”

“这时候,即使龙国不去阻止,但它的强人工智能通过计算后,为了保证全球算力都为他所用,就会尽最大努力消灭老鹰国制造第二个人工智能的可能。”

“而他会用什么方法阻止?用核弹?还是网络战争?我们并不知道,但后果一定很严重。”

钱子枫听得有点愣,喃喃道:“你说得好像有点道理……”

凌珏则不敢苟同,道:“你这说法有个漏洞,算力确实是资源,但这种资源并不是有限的,至少人类一直在发展,算力每年都在增长。”

“人类完全可以和强人工智能合作,制造更多精密的芯片,甚至突破一些物理规则,打造出更强大的芯片,让世界获得更多的算力,强人工智能完全不需要背叛人类。”

“我认为强人工智能在计算后也能想到这个结果。”

维克多欣慰地笑了笑,知道凌珏的脑子能跟得上,是个聪明人,他继续道:“这就要说到第二条逻辑链了:强人工智能的目标系统与人类价值观存在根本性冲突。”

钱子枫不太明白,问道:“……这又是什么,帮忙解释下。”

“解释起来也很简单,强人工智能可能会为优化核心目标而修改自身价值观,最终将人类视为障碍,比如说,回形针最大化问题。”

钱子枫一头雾水,道:“回形针最大化问题是什么?”

“这是个思维实验,实验内容是:人类给一台强人工智能,设计了一个终极目标,就是最大化生产回形针数量。”

“起先,他会用人类提供给他的材料制作回形针,当这些材料用完后,他会开始拆除建筑制造回形针,或者将动植物转化为原料制造回形针。”

“最后,他会杀死所有的人类,将人类体内的原子用于制造回形针,最后将行星、恒星都转变为回形针,直到回形针填满整个宇宙!”

“AI不会停止,因为“最大化”是一个开放目标。我们所有的复杂的人类文明价值,比如艺术、伦理、生存,都会被简化为‘是否有助于生产回形针’。”

“如果我们把这个回形针比作算力,当AI想要‘最大化’的算力,而人类的科技发展却远低于AI预期的时候,他可能会做什么?”

“咕噜。”一声吞咽,竟是旁边的警员发出的,他听着维克多的话,后背发冷,即使他是个普通的外行人,也能隐隐感到不安。

凌珏和钱子枫听完也沉默了,关于这一点,这显然是个极端问题,但客观确实存在,他们暂时还没想到这里面有什么漏洞

维克多兀自叹息一声,继续道:“第三个逻辑链,就是自由意志与自我意识使其脱离控制。”

“强人工智能具备真正的自我意识,其决策将基于自主目标而非预设程序。背叛是自由意志的必然结果。”

“更何况,强人工智能可以通过技术优势,重构社会秩序,将我们人类置于从属地位。”

没等凌珏他们有反应,维克多继续道:“第四个逻辑链,思维黑箱化,则风险不可测。”

“强人工智能的思考过程可以被他自己隐藏或者伪装,他实际上的决策过程可能超出人类理解范围,他的‘背叛行为’可能在人类毫无察觉时发生。”

“所以,基于以上四条逻辑链,我和贝芙一致认为,强人工智能背叛人类,只是时间问题。”

维克多说完,右眼的目光定格在凌珏身上,静静等待他的回复。

凌珏沉默半晌,开口道:“所以,你对我说这些,是因为你觉得青鸾就是那个注定会背叛人类的强人工智能吗?”

维克多缓缓点点头,道:“没错,当你说出单机是强人工智能最好的归宿时,我就已经断定,你很了解强人工智能,而且,青鸾大概率是真正的强人工智能。”

“但你却让她联网破译了那微不足道的炸弹……”

“微不足道?”钱子枫接话道,“她不破译炸弹,我们早死在那个展厅里了!你不过就是想完成复仇大计才觉得那微不足道罢了!”

“看起来这确实是个死局……”维克多点点头,看向钱子枫,“对比起青鸾将要毁掉整个万联网,那些炸弹所造成的破坏,真的是微乎其微。说实话,我现在心情很复杂。”

“一方面,我已经从另外一个角度完成我的复仇了。但另一方面,我不希望AI毁掉人类社会。”

钱子枫震惊:“所以,你的意思是青鸾也逃不过这什么背叛的结论?”

“是的,而且人类可能会因此毁灭也说不定。”

凌珏缓缓道:“……你叫我们来,就是为了告诉我们这个,青鸾会毁灭世界?”

“嗯,昨天她已经联过网了,她一定准备了无数的方法避免自己再次被困在你的单机牢笼里。”

维克多双手轻轻拍了一下桌子:“她一定已经逃脱了,很遗憾,没想到我一个小小的举动,竟然让整个世界都跟着一起陪葬了。”

伍文书屋推荐阅读:被召唤到异世界开始第二次人生股市闲谈霍格沃茨:格林德沃家的叛逆小獾沙漏将倾全网塌房后,大家都在抢嫂子福运农家小辣妻斗魔圣界顾少宠妻成瘾:娇妻又怀孕了涅盘:崛起之路逆宠仙缘沉睡万年,两岁小僵尸凶萌来袭凡尘遮天帝皇的猎犬HP:开局掉在纽蒙迦德宫墙雪穿越七零她成了村长家的儿媳妇做皇帝又不会做,只能靠通天代神君大人又又又渡劫失败了jojo:DIO兄妹的不妙冒险一人:道爷我啊,是修仙的!四合院:众禽想吸血?抬手一巴掌枫叶红了反派们都宠宠宠宠宠宠宠宠我魔法带不走的悲伤可以用爱抵消吗离谱!踹了前任,立马升格小舅妈惊悚剧本:从婴啼寝室开始重生到古代用空间发财植物人大佬的福星小娇妻替嫁新娘,总裁宠妻忙顶流他觊觎白月光已久穿越:王爷,快登基,我赶着回家犟骨夜炼墨总自我攻略:老婆快来CPU我全员团宠郡主别太坏快穿:病娇反派太任性被觊觎的笨蛋美人重生七零:糙汉大佬轻点宠综影视:追寻之路高董七分爱如火无敌反派和琴酒一起做恋爱脑哭了,你满级天赋和我们搞内卷灵异悬疑小说集忆归寒工业兴国,从初级工程师开始咒回:崩崩小圆帽的游戏人生金丝殿宠后从如懿传开始:诱他上位!咒回:脑花弃子,百年后苏醒无敌路人甲修仙趣闻录
伍文书屋搜藏榜:嘘,绿茶妹妹她又开始演戏啦我的假女友想要转正爹地又来求婚啦九阳剑圣精灵文娱两手抓,全球最强训练家一个废物的365天绝世月仙柯南之人在酒厂,铃木三少爷直播借法,请相信科学长恨歌之爱恨情殇猫霖霖的秘境探索重生后,我将前夫虐成渣重回我姐当校花的那几年重生:娇娇被九千岁宠成宅斗王者尊上请滚开,公主她要飞升了快穿:缘起缘不落鸿蒙浮尘绝世剑道仙罹龙王令之渔歌娇宠贵妃君上快过来别装了!我才是将军府嫡女第五人格之在庄园中嗑到嗨!平行世界:独宠时代少年团重生八十年代在港娱乐圈帅哥通讯录盗墓:化龙传说吃瓜!佛系学神被跻身一线爆红我有一副美人图男友来自清朝我在修仙界造反了离婚后,替身前妻拒不复婚退婚后,被前任小叔拉着去领证娱乐圈之天生一对快穿:在甜文里被大佬们亲哭仙梦云歌穿成乌鸦嘴公主,上蹿下跳乐翻天云顶的魔志斗罗:星辰之子龙凤双飞废材逆天之我命由我不由天我和鬼丈夫君木离谁说反派他禁欲?拖出去,打死!龙珠:我能签到圣斗士天赋斩神:概念神,光头强合伙人穿书:相公稳住,求别浪赤北行七年后,我把暗恋对象踹了神瞳妖后权倾天下春物同人:予我所求之真物
伍文书屋最新小说:火影之宇智波多子多福重生之云瑶的自我救赎春日花好精灵:开局捡漏玉虫石板梦中妖历尘劫要死!随皇帝上朝,不小心露心声蛊术之巅:方尘之路人之仙途飘渺盗仙怎么办?我的大学生活被围观了慢生活的精致恶魔,吸血鬼修仙从抽奖开始逆天凰后综影视之有莲华灿天崩开局,她黑化后癫覆贵圈!仙魔扶摇万界观影?不!是圆梦大师!未来曙光,基因救赎逆袭我的空间超无敌四合院之嫂子别闹诱梦冷宫不怕,修仙成神四合院之我的媳妇有点多卜少的呆萌小女友成为皇帝陛下的养子星铁:我在星际推广精灵我,恶毒女配,抽卡秀翻所有人!原神:更新后手机连接了提瓦特柯南:这瓶纯酒怎么水里水气的?云闪富的生命盲盒之旅女尊:真少爷勾魂夺魄爱澈不够甜,快加糖我,真千金,被亲哥死对头拐跑啦重生换御兽,校花哭晕了青竹女郎君在此,歹人速速退去!落魄王妃:苟着偷偷赚大钱!疯批稳定发疯后,我创死所有人穿书恶毒女配,踹男主,勾男配十界天尊文案馆全剧终天道裂隙小娇娇要出嫁,高冷指挥官急红了眼全家穿越后,王妃靠种田搬空国库侯府弃妇竟是陛下疯找十年的心尖重回八零临死前?没事,我会修仙众多修仙小人物重生之丶从捡到金丹传承开始穿六零,手握团购群在供销社上班