因此,追问责任或者除掉自己的可能性被高。
意识到这点,总管环视着已经修复好的机器人,联系到陈令一开始所说的话,终于明白过味来:
“大人您想组建机械军团?”
“呵,我可没这么说,”陈令抱着手,一脸倨傲。只不过他的嘴角却不自觉的露出了一丝冷笑,“不过这个提议我觉得可行。说说看,你有什么办法?”
总管一下子从主动询问方变成了被动回答方。
整个局面牢牢地被陈令掌握,他一脸平静,觉得接下来能够从对方的嘴里听到自己想听的。
只不过总管的回答却有些令人无语:
“如果有需要,我可以组建。但就此事所发生的一切后果我不感承担,也承担不起。”
“怎么说?”
“大人您知道三则吗?”
三则是对任何人工智能的一种限制,这法则被铭刻在每个机器人的原初代码里,仿佛基因一般永远的流传下去,以此保证这些忠心的工具不会那天脑子一热,集体起来反抗人类。
正是有这三则的约束,整个人类社会才能够安安心心的示意机器人。
而如果没有了这层约束将会产生怎样的后果,陈令甚至都不敢去想象。
他嘴角的笑意渐渐平息,语气也不复最开始那般的自信:
“你的意思是,你的机器人存在违反法则的可能?”
“一切都说不准。”
“什么说不准?你这个会自己编写代码的家伙好意思跟我这么说?”
“额”总管当机了一会,然后语气颇为冷静的回应道,“虽然我能便携代码,但自我意识的存在是一种无法被估量的量子领域威胁。我不能保证机器人大军不会在那天因为不可抗力的缘故出现集体暴乱。”
他说完后摊开了双手,努力的想用那张死鱼脸摆出一个无奈的表情,结果因为机械侵扰神经的关系,最终只能做出来一个比小丑都难堪的古怪表情。
那即像是哭又像是笑的狰狞表情,令陈令都快分不清这个家伙是真的无奈,还是完完全全就是在嘲讽自己了。
罢了,现在还是别想这些了。
短暂地沉默后,他深吸了一口气,转而询问道:
“既然这样,我再问问,你制作出来的机体不会出现类似的情况吧?如果出现了故障,你难不成也想像现在这样推卸责任?”
“咳,并不是推卸责任大人。而是我无法承担这样的责任。”
总管说完后蠕动脸部的肌肉,重新变回了那张僵硬的死鱼脸。
短暂的沉默后,他接着开始补充道:
“毕竟我只是一个小小的工厂研发人员。至于机甲方面,这个我可以保证不会出现机甲自主行动这种事,因为考虑到机甲的特殊性,我们科研人员一致决定不会制造人工智能机甲”
陈令一听有些疑惑:
“嗯?那之前战场上那些机甲是怎么回事?”
“那些都是由人远程操控的机甲,并不是拥有自主行动能力的智能机器人机甲。”
听到总管的回答后,陈令稍稍点头,然后示意他可以继续准备试驾的事了。
“既然组建机械军团没办法,那你就从其他地方给我想办法把过错弥补。明白了吗?”