肖云沉默了一下,在这片刻之中,肖云用自己那仍旧不甚清楚的思绪努力的思考了一下当前的局面,然后对老人做出了回答:“对不起,请先告诉我你的身份。另外,请帮我联系一下切尔夫将军。只有在切尔夫将军的陪同及同意下,我才可以回答你的问题。”
老人微笑着摇了摇头:“我的身份不适宜暴露在公众视线之中。但如果你坚持的话,我可以告诉你一些有关于我的东西。想必在这之后,你会回答我的问题的。”
老人说着,用平淡的语气对肖云讲述了一些东西。肖云则渐渐陷入到了沉思之中。许久之后,肖云才说道:“我相信你。我可以告诉你所有我知道的东西。”
老人拉过一把椅子,坐在了肖云的病床之前,做出了洗耳恭听的姿势。
肖云组织了一下语言,然后说道:“欺骗计划的核心内容是这样的。首先我们可以确认一点,那就是,从绝对意义上来说,个体的行为源于它所接收到的外界的信息。只要我们提供合适的信息,那么,我们可以让一个个体做出任何行为。哪怕这个个体的行为逻辑已经确定了也是如此。比如,你不会去喝一瓶毒药,这是你的行为逻辑,但如果你接受了欺骗性的信息,让你误认为这瓶毒药对你的身体是有益的,那么你就会去喝下它,从而达成“你喝下了毒药”这个既定事实。而这个事实与你“不去喝毒药”的行为逻辑并没有冲突。一切都取决于你接收到了什么样的信息。”
老人点了点头,说道:“这一点我可以理解。你是想说,你为机器人提供了错误的信息,所以才在不和它们行为逻辑产生冲突的情况之下,达到了欺骗它们到太阳上去的行为?”
肖云说道:“正是这样。”
老人沉吟着说道:“机器人的行为逻辑是这样的,它们不会主动去摧毁自己,它们以复制自身为首要目标,只要对复制自身有利的,它们都会去做。那么我很好奇,你到底为机器人提供了什么样的信息呢?要知道,“到太阳上去”这个行为,与机器人的所有行为逻辑相违背。你是如何解决这一点的呢?”
肖云说道:“很简单,我告诉它们,到太阳上去对复制自身有利。”
老人断然说道:“这没有用处。机器人自有自身的逻辑判断机制,只要它们不傻,它们就会知道,到太阳上去一定会被太阳烧死,“到太阳上去对复制自身有利”这个谎言,与现实相违背。并且,只要死去的机器人足够多,它们就会开启危机进化机制,分别避险策略也有可能开启,这条谎言不会有作用。”
肖云说道:“这就是我所要解决的第一个问题,那就是,如何让大量机器人的死亡不引发其余机器人的危机进化机制。”
“你是怎么做的?”
请收藏:https://m.oeli.org
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)