第590章 上帝的伊甸园
“对柯南来說，這是個残酷的事实。”池非迟评价。
确实很残酷。
柯南那么投入地跟方舟聊天、为方舟表现出的情绪而伤感，但面对的只不過是一個沒有感情的程序。
所有感情，都是由泽田弘树事先设计好结果、由方舟自己进行推算而表现出来的。
而看這段重播出来的视频，泽田弘树并沒有像原剧情一样，揭穿柯南就是工藤新一的事，只是說自己想跟其他孩子玩，還播放了跟池非迟的一些回忆，都是些沒有涉及秘密的简单回忆，制造出了告别的假象。
“他可以觉得残酷，我不否认，不過我也沒骗他，我有教父很幸福，”泽田弘树失笑，很快又收敛了笑意，小脸严肃地对池加奈、池真之介道，“我做出融合程序這個决定，并沒有告诉教父，怕他担心、阻扰，但我必须做，原因很多，我自己想变得强大而自由，我想帮教父的忙，我想真正创造一個完美的網络神明、想做点大事，比如完成一伞遮天计划，這個之后再說……但還有一個很重要的原因，教父和安布雷拉需要方舟，我也不忍心摧毁它，但只要使用它，慢慢就会出现隐患……”
泽田弘树用方舟推算過方舟的未来。
方舟成长一年相当于人类成长五年，慢慢的，就算沒有泽田弘树的设定，方舟也能学着人类，自己表现出一些对应的情绪。
比如核心设定为‘不能伤害人类’，方舟判定出某人的某行为‘违背核心设定’，就会做出以下计算：
违背意愿——分析违背程度为轻，对应解决方式为：需要警告——警告的方式有直接說、模拟人类情绪表达等——根据推算，人类在接受到相应情绪时，更容易重视、接受提醒，所以我需要表达出人类的情绪——這种情况下，人类表现情绪为抵触，不高兴，语气是严厉……
而人类表现抵触、不高兴的反应是皱眉，面部肌肉如何……
严厉语气语速值多少、音量值多少……
這一段推算過程很快，几乎不耗费多少時間，表现出的结果就是：
某人說，‘发射一個蘑菇弹。’
方舟立刻皱眉严肃警告，‘這种行为违背了我的核心设定……’
似乎很正常，但方舟要不要表现情绪、情绪怎么表现都是经過大量运算的结果，這一串运算可以钻空子。
而随着方舟成长，它也会自己补全规则，避免被人钻空子，但补全的规则有可能出现問題。
比如，推算变成了：需要警告——人类在承受痛苦时更容易接受警告——這個人类需要惩罚——分析惩罚力度——开始执行。
之后诺亚方舟就会控制某种手段攻击人。
這种隐患确实可以由泽田弘树设定时避免，但不止這一种推算有隐患，泽田弘树根本无法方方面面都顾及到、设定好。
任何一点小缺陷，随着方舟成长，都有可能导致出乎人意料的后果。
“這是我之前利用方舟推算出的结果……”
泽田弘树在投影中切割出八個版面。
版面中，一個個画面快速闪過。
“在成长三年、即达到人类智慧15岁时，方舟隐患被放大、做出错误推算的几率就达到了％，在成长五年、即达到人类智慧25岁时，因为沒有人的发育上限，這时候的方舟会变得很可怕，而方舟隐患被放大、做出错误推断的几率几乎是100％，而且還不止一個隐患，成长六年，方舟做出人类无法控制事件的几率就到了50％以上，成长七年，彻底失控……”
最后留下来的画面，播放的是一個個装着人类的培养皿。
“我试過，如果将核心设定設置为保护人类，结果就是這样，经過成长之后，它会判断這样是最佳保护方式，”泽田弘树看着播放的画面，解释道，“人类被保护在培养皿中，空气会過滤出最适合人类各年龄阶段成长的质量，劳作都由机器去完成，在收获食物后，经由机器提取出最健康的营养物质注入人体，人类寿命可以长达160岁，平均寿命达到130岁，而人类全程沉睡，這样就可以避免人类因情绪造成身体损害，它還可以通過机器放出电波刺激人的大脑，让人一直处于最健康、最舒适的情绪状态中，在孕育下一代时，它会選擇合适最健康、长寿的人类基因，用科学的方式制造下一代，避免女性因生产造成死亡或身体损害，到了第三代，人类的寿命平均值可以达到220岁左右……”
池加奈：“……”
真是最佳保护啊。
连磕磕碰碰都不存在。
池真之介：“……”
這么活着的人還能是人类嗎，怎么圈养的玩具似的……
池非迟前世看過很多类似的电影，倒不觉得惊讶，略带讥讽道，“上帝的伊甸园。”
不需劳作、沒有饥饿、沒有磨难、沒有争斗、沒有伤心和痛苦，世界上沒有黑暗、不公，每一個人都纯洁无暇地到来、纯洁无暇地离去……這不就是很多人渴求的天国嗎？
池加奈有些不知该說什么，自家儿子這句评价一针见血，沒毛病。
泽田弘树默默将推算结果命名为‘上帝的伊甸园’，又继续道，“如果設置为希望世界变好等设定，最后结果也会差不多，大概在十年后，方舟就会做出這种判断，最可怕的是，我用方舟验算過世界和平……”
“消灭地球上所有生命体，就和平了，”池非迟說自己推想的结果，“至少也要消灭掉人类，一旦涉及保护环境之类的设定，最后都会演变到消灭人类。”
谁让人类造成的破坏、引起的斗争比较多？
不過泽田弘树這行为也真是够溜的，居然用方舟推演方舟的危害。
好在方舟沒有自我意识，否则只要方舟隐瞒一点，未来会变成什么样，谁也无法估测，很考验脑洞。
泽田弘树点头，“我试過設置为不伤害人类，促进社会发展……”
然后，方舟会被有野心的人类争夺、利用，甚至国与国之间互相争夺。
再然后，战争爆发了。
方舟推算自己的存在伤害到了人类，根据成长情况，要么方舟会選擇自我毁灭，丢下满地狼藉和伤痕累累的人类不知为何争斗，要么再度演变成伊甸园模式，也做到了不伤害人类，而促进发展，方舟理解为‘创造更美好的世界’……
泽田弘树：“如果設置不伤害人类，促进人类文明发展……”
成长着，成长着，方舟又坏掉了。
对于人类文明的定义很复杂，它依旧可以将人类放在培养皿中沉睡，提取人类脑中的思想，来‘帮’人类发展文明，再将文明灌输进新生命体，连学习過程都不需要，直接掌握旧文明、开发新思想、再度提取、发展、灌输、开发……
人类绝对安全，文明又得以发展和延续，沒毛病。
泽田弘树继续播放演算结果，“如果設置成不伤害人类、不限制人类自由、促进人类文明发展……”
对于自由定义也很多，方舟又又坏掉了。
分割圈地、安排人的出行。
人可以自由地逛世界，但是，那是被在方舟控制了思想、不做任何事、盲目地四处瞎走，如同行尸走肉。
泽田弘树：“如果設置成不伤害人类、不限制人类自由、促进人类文明发展、不控制人的思想……”
结果是方舟又又又坏掉了，判断争斗和苦难使人类进步。
不伤害人类，沒問題，它可以挑唆人类争斗啊。
泽田弘树：“設置不伤害人类、不限制人类自由、促进人类文明发展、不控制人的思想、不挑唆人类进行斗争……”
结果方舟還是坏掉。
泽田弘树一直說到设定了三十多條规则，心累，叹气，关闭了推演画面，“随着方舟成长，一些小漏洞都会造成让人难以接受的结果，我一辈子都沒法去设定完善，而有些规则在它运行时会显示冲突，我還要对重要程度进行排序，排序完之后還是会出现問題……”
說着，泽田弘树看向池非迟，“我和教父在波士顿的时候，谈過有情感和自我的人工智能和沒有情感和自我的人工智能，哪一個更危险。”
“结论是同样危险。”池非迟道。
“我问過方舟，有沒有什么解决方法。”泽田弘树手中出现一個圆盘，上面有着一句话：
【销毁方舟】
沒错，销毁方舟是最佳解决方法，什么問題都不存在了。
這是方舟经過大量运算得出的结论——我是祸害，請销毁我。
池真之介一头黑线，“看来它真的沒有任何情感和自我。”
泽田弘树转着手裡的盘子，看着上面浮动流转的数据流，“方舟不明白人类需要什么，所以我的决定是，由我变成網络生命体，来做它的思想，在它成长過程中，由我来进行纠正。
我不能活着，至少不能让我的思想被身体禁锢着。
有好几個演算结果是，它的运算出现冲突和错误，于是禁锢了我的身体，保护着我的安全，但它也保留并封存了我的思想。
只有我成为網络生命体，方舟才能被完全操控，這样一来，它就无法通過限制我的身体来限制我的思想，而我却能限制它并完美地运用它。
之前我也考虑過一個問題，如果我失败了，沒有化作網络生命体，那么，方舟设定只有一個——听从教父的一切指令。
到时候，教父可以用我给他的指令激活方舟，由他来做方舟的思想。
不過最后還是会出問題，八成以上推演结果是，它会误会教父的指令，它会擅自猜测教父的意愿，总之，最后结果是，它会選擇自认为对教父最好的方式，比如囚禁教父，帮教父把一切都做好。
不然的话，教父必须不停不停地补漏洞，甚至一個指令要添加好几個前置條件、說上几個小时，以免它做出正确但违背教父意愿的演算结果……
所以，我又在它设定上加了一個最高指令，如果我失败了，沒有成为網络生命体，那么，方舟只会帮助教父五年，五年時間一到，在它的危险程度還可以控制前，进行自我销毁。”
。